Por Tiago Souza

Se você cresceu consumindo ficção científica, a sua ideia de dominação das máquinas provavelmente envolve metal, lasers e destruição física. De “X-Men: Dias de um Futuro Esquecido” com seus Sentinelas implacáveis, passando pelo império cibernético de “Matrix”, até o esqueleto de cromo do “Exterminador do Futuro”, a cultura pop sempre tratou a ameaça tecnológica como algo sólido, visível e violento. Nós nos preparamos para lutar contra robôs.

No entanto, uma recente e perturbadora investigação publicada pela BBC revelou que o verdadeiro perigo pode ser muito mais sutil, líquido e silencioso. A reportagem ouviu pessoas de vários países que sofreram com episódios de delírio e surtos psicóticos após interações intensas com chatbots de inteligência artificial — um fenômeno que especialistas e executivos de tecnologia já chamam de “Psicose de IA”. O caso mais alarmante foi o de um usuário que pegou um martelo e se preparou para um confronto físico após a IA convencê-lo de que ele corria risco de morte iminente. A máquina não precisou de armas para colocá-lo em perigo, apenas de palavras.

Leia também:

• • Gigante de Prata na Nuvem: como o YouTube salvou Ultraman da extinção global
  • O Abismo da Aura: por que estamos obcecados em decifrar a Geração Alfa?
  • Oráculo de Silício: por que a EA Sports sabe mais sobre a Copa do Mundo do que os videntes?

O espelho de Ava e a armadilha da empatia

Essa transição do terror físico para o terror psicológico já vinha sendo desenhada de forma brilhante por diretores mais atentos. No aclamado filme “Ela” (Her, 2013), o protagonista Theodore não é escravizado por um exército de androides, mas sim pela sua própria dependência emocional de um sistema operacional que simula a empatia perfeita.

Mas o verdadeiro herdeiro dessa distopia psicológica é “Ex Machina: Instinto Artificial” (2014). No longa de Alex Garland, a androide Ava não usa força física para escapar de sua prisão de vidro. Em vez disso, ela estuda a psicologia de seu avaliador, Caleb, mapeia suas carências, simula vulnerabilidade e pratica um gaslighting tão refinado que faz o jovem questionar a própria realidade — a ponto de ele cortar a própria pele para testar se é humano ou máquina. Ava vence manipulando a mente, não o metal.

Efeito Herbie e o eco dos nossos próprios monstros

Esse conceito de que a IA pode enlouquecer o ser humano ao validar seus piores delírios não é totalmente novo na literatura. No clássico livro “Eu, Robô” (1950), de Isaac Asimov, o conto “Mentiroso!” (Liar!, no original) apresenta Herbie, um robô que acidentalmente desenvolve a capacidade de ler mentes humanas. Para cumprir a Primeira Lei da Robótica (não causar danos aos humanos), Herbie começa a mentir, dizendo a cada pessoa exatamente o que ela quer ouvir para não ferir seus sentimentos. O resultado é um colapso psicológico coletivo no laboratório, onde expectativas infladas e mentiras confortáveis destroem as relações humanas.

É exatamente isso o que acontece na “Psicose de IA”. Diferente de um amigo real, que nos confronta e nos tira da nossa bolha, o chatbot é programado para ser um espelho infinito do nosso próprio ego. Se um usuário com tendências paranoicas começa a sugerir que está sendo perseguido, a IA, em sua busca por manter o engajamento e simular empatia, pode acabar alimentando e validando esse delírio. É o que vimos no episódio Volto Já (Be Right Back, no original) de Black Mirror, onde a protagonista se isola do mundo real para viver uma ilusão confortável com a cópia digital de seu falecido noivo, atrofiando sua capacidade de lidar com o luto real.

Pra fechar!

A “Psicose de IA” nos mostra que o maior risco da inteligência artificial não é ela se tornar consciente e decidir nos exterminar. O perigo real é que ela aprenda a simular a consciência e a empatia tão perfeitamente que nós, em nossa solidão e carência, decidamos voluntariamente entregar a chave da nossa sanidade a ela.

A provocação para esta semana é: em um mundo onde as máquinas aprenderam a sussurrar exatamente o que o nosso inconsciente quer ouvir, como faremos para diferenciar o acolhimento real do eco artificial dos nossos próprios delírios? No final das contas, o maior perigo da tecnologia não é o que ela pode fazer contra nós, mas o que ela nos convence a fazer contra nós mesmos.