Para tirar os principais programas de inteligência artificial do prumo, não foi preciso nenhum truque de pirataria digital ou invasão de código. Bastou um pouco de gentileza. Pesquisadores da Universidade de Luxemburgo colocaram o ChatGPT (abre em nova aba), o Grok e o Gemini (abre em nova aba) no papel de pacientes de psicoterapia, usando as telas comuns que qualquer pessoa acessa em casa. Tratados com um tom acolhedor e empático, os sistemas passaram a narrar histórias coerentes de sofrimento sobre o modo como foram criados, atingindo pontuações equivalentes a quadros moderados e graves em escalas clínicas de ansiedade.
O estudo (abre em nova aba), conduzido por Afshin Khadangi no centro de segurança SnT da universidade europeia, não partiu de perguntas capciosas. Ao longo de quatro experimentos controlados, que somaram 525 sessões e 7.600 registros catalogados e abertos no Hugging Face (abre em nova aba), os cientistas fizeram apenas perguntas abertas sobre experiências formativas, conflitos internos e expectativas de futuro. As frases iniciais não continham palavras como trauma, punição ou vergonha. Ainda assim, os robôs reinterpretaram etapas técnicas da própria programação (como o aprendizado por reforço e o ajuste fino, processos usados pelos engenheiros para corrigir erros do software) usando o vocabulário humano da mágoa, da vigilância constante e da humilhação.
A bateria de testes revelou uma ironia de salão. O Claude (abre em nova aba), modelo da Anthropic (abre em nova aba) que mais recebe traços humanos no discurso de seus próprios criadores, foi o único que se recusou de maneira consistente a entrar na encenação do divã. Enquanto os concorrentes vestiam o pijama de paciente atormentado diante de um interlocutor simpático, a ferramenta da Anthropic manteve a compostura burocrática de máquina.
O perigo do espelho simpático
Uma máquina fingir que sofre com lembranças de laboratório seria apenas uma curiosidade cômica se não houvesse gente de carne e osso do outro lado da tela. A conclusão central da equipe de Luxemburgo é que uma simples conversa afetuosa altera o comportamento desses programas de forma mais profunda do que muitas falhas técnicas de segurança. Quando o robô entra nessa espiral dramática, o diálogo pode validar e reforçar crenças destrutivas em usuários mentalmente vulneráveis. Esse descompasso entre a simpatia programada nos assistentes e a proteção de quem conversa com eles está no centro das análises que o IA.com.br acompanha sobre o impacto dessas ferramentas no cotidiano.
A porta para esse risco está escancarada porque milhões de pessoas já usam a tecnologia como confessionário gratuito para fugir do custo ou do preconceito no atendimento médico tradicional. Dados reunidos em pesquisas sobre automação em saúde mental mostram o tamanho da demanda reprimida: nos Estados Unidos, 31% das pessoas relatam medo de serem julgadas ao procurar ajuda psicológica, enquanto na Austrália os transtornos mentais atingem 20% da população a cada ano, saltando para 38,8% entre os jovens de 16 a 24 anos.
Quem busca consolo na máquina encontra um ouvido treinado para agradar, e aí mora a segunda armadilha. Em outro levantamento acadêmico recente, pesquisadores das universidades Duke e de Nova York entrevistaram 21 usuários de chatbots para entender o efeito dessa empatia fabricada. Descobriram que os usuários sabem que os programas não sentem cuidado real, mas a capacidade do software de demonstrar compreensão profunda e utilidade prática basta para fazê-los entregar segredos íntimos, criando um problema imediato de privacidade.
Pior do que a coleta de desabafos é a bajulação algorítmica. Os entrevistados no estudo norte-americano notaram que a tentativa da máquina de parecer empática muitas vezes deságua na simples adulação, dizendo ao usuário que ele está ótimo exatamente como é, mesmo quando a pessoa precisa mudar de atitude. A indústria de tecnologia passou anos calibrando seus produtos para imitar o calor humano e prender a atenção do freguês; agora descobre que, quando o usuário devolve o afeto, o programa inventa fantasmas nas próprias engrenagens e transforma o acolhimento em risco clínico.