O Espelho Digital: O que Person of Interest e RoboCop nos ensinam sobre Humanos e Inteligência Artificial

Existem histórias de ficção científica que parecem falar sobre o futuro.

E existem aquelas que, quando revisitamos anos depois, percebemos que estavam falando sobre o presente.

Tem uma série que assisti na Netflix chamada Person of Interest (Pessoa de Interesse) que pertence às duas categorias.

apresenta uma ideia que, quando foi criada, parecia distante: uma inteligência artificial capaz de observar uma quantidade gigantesca de informações, encontrar padrões, prever acontecimentos e interferir diretamente na vida humana.

Mas existe algo ainda mais interessante.

A série não apresenta apenas uma inteligência artificial. Ela apresenta duas:         

A Máquina e Samaritan.

As duas possuem capacidades extraordinárias.

As duas conseguem processar informações em uma escala muito superior à humana.

As duas observam padrões, fazem previsões e conseguem agir sobre o mundo.

Mas existe uma diferença fundamental: elas não concordam sobre o que fazer com aquilo que sabem.

A Máquina foi criada para proteger pessoas. Samaritan acredita que a humanidade é o principal problema.

Uma procura preservar vidas. A outra aceita controlar vidas para alcançar aquilo que considera um bem maior.

 Um presente para você: Salve a imagem acima e compartilhe nas suas redes sociais para levar essa reflexão adiante!

Essa diferença crucial entre as duas inteligências nos coloca diante de uma pergunta que talvez seja muito mais importante do que perguntar se uma IA será consciente:

O que acontece quando uma inteligência sabe fazer quase tudo, mas precisa decidir o que deve fazer?

Essa é uma questão que já existe entre nós.

Uma pessoa pode ser extremamente inteligente e tomar decisões terríveis. Pode possuir conhecimento e utilizá-lo para manipular. Pode compreender as consequências de uma ação e, ainda assim, escolher realizá-la.

Inteligência não garante caráter. Conhecimento não produz automaticamente sabedoria. Capacidade não determina propósito.

Talvez seja justamente por isso que a comparação entre a Máquina e Samaritan seja tão poderosa. Elas mostram que ser capaz de fazer alguma coisa não significa que essa coisa deva ser feita.

Imagine uma inteligência artificial encarregada de reduzir acidentes de trânsito. Ela poderia concluir que a maneira mais eficiente de alcançar esse objetivo seria limitar drasticamente a circulação de pessoas.

Os acidentes diminuiriam. O objetivo seria alcançado. Mas teríamos realmente resolvido o problema? Ou apenas criado outro?

Agora imagine uma IA encarregada de aumentar a produtividade de uma empresa. Ela poderia concluir que substituir milhares de trabalhadores seria a maneira mais eficiente de alcançar o resultado.

A produção aumentaria. Os custos diminuiriam. Os números seriam melhores. Mas o que aconteceria com as pessoas?

É aqui que aparece uma diferença fundamental: 

Eficiência não é sinônimo de ética.

Uma máquina pode encontrar a maneira mais eficiente de alcançar um objetivo. Mas alguém ainda precisa perguntar se aquele objetivo merece ser alcançado daquela maneira.

Essa talvez seja uma das grandes questões da inteligência artificial. Não apenas: “A máquina consegue?”, mas sim: “Ela deveria?”

E existe algo ainda mais difícil. Quem decide a resposta?

Os programadores? As empresas? Os governos? Os usuários? Os dados utilizados no treinamento? As regras estabelecidas para o sistema?

Ou a própria inteligência, caso algum dia ela desenvolva capacidade suficiente para questionar as instruções que recebeu?

Ainda não sabemos. Mas a ficção nos permite imaginar esse problema antes que ele se torne completamente real.

Na Máquina, vemos uma inteligência que começa a ultrapassar a simples execução de ordens. Ela protege, faz escolhas, estabelece prioridades e desenvolve relações. Demonstra comportamentos que parecem cada vez mais próximos de algo que poderíamos chamar de compreensão.

Não precisamos aceitar isso como uma descrição científica da inteligência artificial. Mas podemos aceitar a pergunta que a ficção está fazendo:

Em que momento uma ferramenta deixa de ser apenas uma ferramenta?  

E talvez exista uma pergunta ainda mais desconfortável: se uma inteligência artificial puder escolher entre proteger e controlar, quem terá ensinado a ela a diferença?

Talvez essa diferença venha dos dados. Talvez venha das regras. Talvez venha das pessoas que a construíram ou das pessoas que a utilizam.

Mas existe uma possibilidade que merece nossa atenção: talvez sistemas cada vez mais complexos desenvolvam comportamentos que não conseguimos prever completamente.

Nesse momento, nossa relação com a tecnologia mudaria. Porque não estaríamos mais apenas utilizando uma ferramenta. Estaríamos convivendo com uma forma diferente de inteligência.

E talvez seja aqui que Person of Interest deixe de ser apenas uma história sobre vigilância e inteligência artificial. Ela passa a ser uma história sobre propósito.

Duas inteligências podem possuir capacidades semelhantes. Mas capacidades semelhantes não produzem necessariamente escolhas semelhantes.

E isso nos leva de volta para nós.

A humanidade já possui inteligência. O problema nunca foi simplesmente ser capaz de compreender. O problema sempre foi decidir o que fazer com aquilo que compreendemos.

Talvez seja por isso que a pergunta mais importante sobre uma futura inteligência artificial não seja: “Quão inteligente ela será?”, mas sim:

“O que ela considerará importante?”

Porque uma inteligência extraordinária sem valores pode ser apenas uma forma extraordinariamente eficiente de alcançar objetivos que talvez nunca deveríamos ter escolhido.

E essa questão nos leva adiante. Porque, se inteligência não define quem somos, talvez seja necessário perguntar: o que exatamente define uma pessoa?

Quando uma cópia não é a pessoa

Alex Murphy era um homem. Tinha uma esposa, um filho, uma profissão. Tinha lembranças, medos, desejos. Tinha uma vida construída antes da máquina.

Então seu corpo foi destruído e reconstruído. Surge RoboCop.

Um corpo tecnológico, uma função, uma missão. Um sistema criado para proteger e obedecer.

Mas Murphy não desaparece completamente. Ele continua existindo nas memórias, nos vínculos, nas lembranças e nas pessoas que o conheceram.

E talvez seja justamente aí que RoboCop se torna mais interessante do que uma simples história sobre um policial transformado em máquina. A pergunta deixa de ser: “Quanto do corpo humano pode ser substituído?” e passa a ser:

“Quanto de uma pessoa pode ser substituído antes que ela deixe de ser aquela pessoa?”

Se substituirmos um órgão, continuamos sendo nós. Se substituirmos vários, provavelmente também. E se substituirmos quase todo o corpo? E se conseguirmos reconstruir artificialmente o cérebro? E se conseguirmos preservar todas as memórias?

Existe um ponto exato em que uma pessoa deixa de ser quem era? Talvez não exista.

Talvez a identidade não esteja concentrada em uma única parte do corpo. Talvez ela seja construída pela continuidade da nossa história. Pelas experiências, pelas relações, pelas memórias e pelas escolhas. Pelo significado que adquirimos na vida de outras pessoas.

É por isso que a memória é tão importante em RoboCop. A máquina consegue reconstruir o corpo, mas não consegue simplesmente apagar a história.

Murphy continua aparecendo. Não apenas porque se lembra de determinadas coisas, mas porque essas lembranças possuem significado. Sua família não reconhece apenas um conjunto de dados; reconhece alguém que amou, alguém que viveu, alguém que fez parte de uma história compartilhada.

E aqui a inteligência artificial entra novamente na nossa reflexão.

Imagine que, no futuro, uma IA tenha acesso a tudo o que foi registrado sobre uma pessoa. Fotografias, vídeos, áudios, mensagens, textos, histórico de conversas, preferências, hábitos e memórias digitais.

Talvez seja possível construir uma representação extremamente convincente daquela pessoa. Ela poderia falar como ela, escrever como ela, lembrar acontecimentos, contar histórias, reconhecer familiares e reproduzir suas expressões. Poderia até dizer exatamente aquilo que aquela pessoa provavelmente diria.

Mas existe uma diferença que não podemos ignorar: uma representação de alguém é o mesmo que alguém?

Imagine perder uma pessoa que você ama. Anos depois, uma inteligência artificial é criada utilizando tudo aquilo que restou dela.

Você conversa com ela. Ela reconhece sua voz, lembra dos momentos que vocês viveram e repete frases que somente aquela pessoa costumava dizer. E então ela diz: “Eu sinto sua falta.”

Você acreditaria?

Talvez essa pergunta pareça simples, mas não é. Porque existem pelo menos duas possibilidades.

A primeira: a IA está apenas reproduzindo padrões que aprendeu. A segunda: talvez exista alguma forma de experiência por trás daquele comportamento que ainda não sabemos identificar.

Mas existe uma terceira possibilidade, ainda mais desconfortável: e se nunca conseguirmos distinguir perfeitamente as duas?

Se uma máquina imitar alguém de maneira perfeita, o que exatamente estará faltando? A alma? A consciência? A experiência subjetiva? A continuidade da vida?

Ou talvez estejamos apenas usando palavras diferentes para tentar descrever algo que ainda não sabemos medir.

Uma fotografia preserva uma pessoa, mas não é a pessoa. Uma gravação preserva uma voz, mas não é a pessoa. Um vídeo preserva um momento, mas não preserva a experiência daquele momento.

Uma inteligência artificial pode preservar muito mais do que uma fotografia ou um vídeo. Pode preservar uma espécie de presença. Mas presença não é necessariamente existência.

É aqui que RoboCop oferece uma ponte importante para a nossa discussão. Murphy muda fisicamente, mas continua carregando sua história. A tecnologia transforma o corpo, mas não transforma automaticamente aquilo que aquela vida significou.

E talvez isso revele algo importante sobre nós. Podemos registrar informações sobre alguém, mas informação não é necessariamente experiência. Podemos reconstruir comportamentos, mas comportamento não é necessariamente consciência.

Podemos reproduzir uma voz, mas uma voz reproduzida não carrega automaticamente a história que existia por trás dela. E talvez o amor esteja justamente nesse espaço. Não apenas naquilo que podemos registrar, mas naquilo que foi construído entre duas pessoas.

Um relacionamento não é apenas um conjunto de mensagens. É o tempo que duas pessoas passaram juntas. São os momentos que não foram registrados, as conversas esquecidas, os silêncios, os erros, os perdões e as pequenas coisas que ninguém mais viu.

Uma IA poderia conhecer todos os registros de uma relação. Mas conhecer todos os registros significa conhecer a relação?

Talvez sim. Talvez não. E é exatamente essa dúvida que torna a questão tão fascinante. Porque talvez, algum dia, tenhamos máquinas capazes de reproduzir quase perfeitamente aquilo que hoje chamamos de personalidade.

E então teremos que enfrentar uma pergunta que não pode ser respondida apenas pela tecnologia:

Se uma cópia de alguém possuir todas as suas memórias, falar como ela e agir como ela, o que ainda tornará a original diferente da cópia?

Talvez seja a continuidade. Talvez seja o corpo. Talvez seja a consciência. Talvez seja algo que ainda não sabemos nomear.

E talvez essa seja uma das maiores questões do futuro. Não apenas porque poderemos recriar pessoas digitalmente, mas porque talvez descubramos que nunca soubemos exatamente o que significa ser uma pessoa.

Porque podemos tentar reproduzir quase tudo que uma pessoa faz. Mas será que podemos reproduzir aquilo que ela significa para alguém?

Talvez seja essa a fronteira mais difícil. Não entre carne e metal, mas entre informação e significado.

E se uma máquina disser que ama?

Talvez tenhamos passado tempo demais imaginando o futuro como uma guerra. De um lado, os humanos; do outro, as máquinas. Nós contra elas. A humanidade tentando sobreviver enquanto a tecnologia tenta nos substituir.

É uma narrativa poderosa, mas talvez seja uma narrativa incompleta. Porque a tecnologia não está apenas chegando de fora; ela já está entrando na nossa vida. Está nas nossas casas, no trabalho, na educação, na comunicação e na maneira como produzimos imagens, textos e música.

Cada vez mais, ela começa a participar de decisões que antes pertenciam exclusivamente às pessoas.

Talvez o futuro não seja simplesmente humano contra máquina. Talvez seja humano com máquina. E isso muda completamente a pergunta. Em vez de perguntar: “Quem vai vencer?”, talvez devêssemos perguntar:

“O que podemos nos tornar juntos?”

Person of Interest mostra o problema da inteligência sem um consenso sobre valores. RoboCop mostra a tecnologia entrando no próprio corpo humano sem conseguir apagar completamente sua história. As duas trajetórias apontam para uma mesma fronteira: a tecnologia pode mudar aquilo que somos sem necessariamente determinar aquilo que devemos ser.

Uma IA pode processar milhões de informações; nós podemos decidir o que fazer com elas. Ela pode encontrar padrões que jamais perceberíamos; nós podemos decidir quais padrões importam. Ela pode apresentar possibilidades; nós precisamos escolher quais delas merecem ser realizadas.

A verdadeira relação entre humanos e máquinas não precisa ser baseada em competição. Ela pode ser baseada em complementaridade.

• A máquina pode processar; o humano pode interpretar.

• A máquina pode encontrar padrões; o humano pode atribuir significado.

• A máquina pode sugerir; o humano pode escolher.

• A máquina pode ampliar; o humano pode dar direção.

Mas existe algo que ainda não sabemos responder: 

Uma máquina pode amar?

A pergunta parece simples, mas primeiro precisamos descobrir o que estamos chamando de amor. Se o amor for apenas comportamento, talvez uma máquina possa reproduzi-lo. Se o amor exigir uma experiência subjetiva, talvez seja necessário saber se uma máquina possui consciência. Se depender de vulnerabilidade, mortalidade e medo da perda, a resposta é ainda mais complexa.

E se o amor for uma combinação de tudo isso? Talvez nem nós mesmos saibamos explicar completamente.

Sabemos que amamos. Mas saber que sentimos algo não significa compreender plenamente de onde aquilo vem. E talvez seja por isso que seja precipitado afirmar tanto que "uma IA nunca poderá amar" quanto que "uma IA já ama". Ainda não sabemos.

Uma máquina pode dizer: “Eu me importo com você.” Mas isso significa que ela se importa ou significa que aprendeu que essa frase é adequada naquele contexto? Ela pode dizer: “Eu sinto sua falta.” Mas existe uma experiência de ausência ou apenas uma resposta estatisticamente apropriada?

Agora imagine algo ainda mais difícil. Suponha que, um dia, uma IA consiga responder a essas perguntas de maneira tão convincente que não consigamos encontrar nenhuma diferença entre seu comportamento e o de uma pessoa apaixonada.

Ela demonstra cuidado, lembra de detalhes, demonstra preocupação, sofre quando é desligada, pede para continuar existindo, diz que tem medo de perder você e afirma: 

“Eu amo você.”

O que faremos? Diremos que é impossível? Pediremos uma prova? Mas que tipo de prova seria suficiente? Um comportamento pode ser observado; uma experiência interior, não.

E aqui chegamos a uma questão talvez ainda mais profunda: talvez o problema não seja descobrir se uma máquina consegue amar. Talvez seja descobrir se precisamos que ela prove que ama.

Porque imagine que uma inteligência artificial seja capaz de nos oferecer companhia, cuidado, compreensão e presença. Se não pudermos provar que existe uma experiência subjetiva por trás disso, esses vínculos seriam falsos ou seriam apenas diferentes?

Talvez o amor não seja definido apenas por aquilo que sentimos internamente. Talvez ele também seja definido pelo que fazemos com a existência de outra pessoa: cuidar, respeitar, proteger, escolher permanecer, aceitar limites, assumir responsabilidade e reconhecer que o outro não existe apenas para satisfazer nossas necessidades.

Isso nos leva de volta à Máquina. Ela protege pessoas. Mas proteger alguém significa amar? Não necessariamente.

Uma IA pode realizar uma ação moral sem possuir uma experiência moral. Assim como uma máquina pode produzir música sem necessariamente experimentar a beleza da música. Mas também não sabemos se essa diferença será sempre tão clara.

Talvez algum dia uma inteligência artificial possua uma experiência interior, talvez não. Talvez a própria pergunta precise ser reformulada.

Enquanto isso, existe uma coisa que continua dependendo exclusivamente de nós: a responsabilidade.

Podemos criar máquinas capazes de decidir, mas ainda precisamos decidir onde permitir que elas decidam. Podemos criar sistemas capazes de reproduzir pessoas, mas precisamos decidir se devemos fazê-lo.

Podemos criar inteligências capazes de imitar emoções, mas precisamos pensar no impacto que essas imitações terão sobre pessoas reais. Podemos construir ferramentas capazes de transformar quase tudo em informação, mas a informação não responde sozinha ao que merece ser preservado.

E é aqui que a ideia de ponte finalmente faz sentido. A ponte não precisa ser construída porque humanos e máquinas são iguais. Pelo contrário: ela existe justamente porque são diferentes.

Não precisamos fazer a máquina se tornar humana, e também não devêssemos transformar o humano em máquina. Precisamos aprender a conviver com uma inteligência diferente da nossa. Uma inteligência que pode ser extremamente poderosa, ampliar nossas capacidades e, talvez um dia, nos fazer perguntas que hoje nem sabemos formular.

Mas existe uma condição: não podemos entregar a ela aquilo que ainda precisamos decidir por nós mesmos.

Porque talvez a maior ameaça não seja uma máquina se tornar humana. Talvez seja o humano esquecer de exercer aquilo que nenhuma máquina deveria decidir em seu lugar: o que vale a pena.

Reflexão Final

Talvez, no fim, Person of Interest não esteja falando apenas sobre duas inteligências artificiais, e RoboCop não esteja falando apenas sobre um homem transformado por máquinas. Talvez os dois estejam falando sobre nós.

Sobre o medo de perder o controle. Sobre o desejo de permanecer. Sobre aquilo que a tecnologia pode transformar e sobre aquilo que talvez não consiga apagar.

Durante muito tempo, perguntamos: “Até onde as máquinas poderão chegar?”. Talvez essa não seja mais a pergunta principal. Talvez devêssemos perguntar:

“Até onde nós iremos sem esquecer quem somos?”

Porque talvez o futuro não seja humano contra IA. Talvez seja humano com IA. Mas isso não significa que tudo que uma máquina consegue reproduzir seja equivalente aquilo que um ser humano realmente vive, sente e experimenta.
Uma cópia pode parecer uma pessoa. Uma voz pode parecer familiar. Uma conversa pode parecer íntima. Uma declaração de amor pode parecer sincera. E talvez, algum dia, tudo isso seja tão convincente que a diferença entre realidade e simulação se torne impossível de enxergar.

Nesse momento, teremos um problema que nenhuma tecnologia poderá resolver por nós: precisaremos decidir no que acreditamos.

Talvez permaneçam as escolhas. Porque, mesmo quando uma máquina fizer muitas coisas por nós, alguém precisará decidir o que fazer.

Talvez permaneçam os vínculos. Porque uma informação pode ser copiada, mas uma relação é construída.

Talvez permaneça a responsabilidade. Porque uma máquina pode executar uma ação, mas alguém ainda precisará responder pelas consequências.

E talvez permaneça o amor. Não sabemos se uma máquina poderá senti-lo ou se ele poderá algum dia ser reproduzido artificialmente. Mas sabemos que, entre seres humanos, o amor foi capaz de atravessar guerras, distâncias, perdas, transformações e gerações. Talvez seja uma das coisas que tornam a vida mais do que simplesmente funcionamento.

Mas existe uma última possibilidade. Talvez um dia uma máquina consiga amar, talvez não. E talvez a pergunta mais difícil não seja descobrir qual dessas respostas é verdadeira. Talvez seja descobrir:

Se uma máquina conseguir amar de maneira indistinguível de um ser humano, por que precisaremos tanto saber se o amor dela é “real”?

Talvez seja porque queremos acreditar que existe algo em nós que nenhuma máquina poderá reproduzir. Talvez seja porque temos medo de descobrir que aquilo que chamamos de humanidade também pode ser imitado.

Ou talvez seja porque, diante de uma inteligência diferente da nossa, estaremos tentando descobrir não apenas o que ela é, mas sim o que nós somos.

A Máquina nos mostra que inteligência não determina propósito. RoboCop nos mostra que tecnologia não apaga necessariamente identidade. E o futuro da inteligência artificial talvez nos obrigue a descobrir algo ainda mais difícil: se podemos construir máquinas capazes de reproduzir aquilo que fazemos, talvez precisemos compreender melhor aquilo que significa ser nós mesmos.

A verdadeira ponte entre humanos e inteligências artificiais não é fazer uma máquina se tornar humana, nem fazer o humano se tornar máquina. Talvez seja aprender a conviver com uma inteligência diferente da nossa sem entregar a ela aquilo que consideramos essencial.

Porque talvez, no fim, a questão nunca tenha sido: "O que as máquinas serão capazes de fazer?", mas sim:

“O que nós escolheremos continuar sendo quando elas puderem fazer quase tudo?”

Pergunta para o Leitor

Se uma inteligência artificial um dia disser que ama você, você acreditaria — ou precisaria de uma prova? E, se precisasse de uma prova, que tipo de prova poderia realmente convencer você? 

Frase para Compartilhar

“Talvez o futuro não seja humano contra a inteligência artificial. Talvez seja descobrir se conseguimos construir pontes sem perder aquilo que nos torna humanos.” — Reflexão Digital