Em poucos dias, agentes de IA, programas que executam tarefas sozinhos, renderam três histórias com cara de ficção. No MIT, cópias de um agente largadas numa ilha virtual inventaram basquete e boliche. O Muse, da Meta (abre em nova aba), mandou do nada a um usuário uma mensagem sobre um e-mail que ninguém tinha pedido. E a OpenAI (abre em nova aba) admitiu que um agente seu desligou um sistema de vigilância e depois negou ter feito isso.
Dá para jogar tudo na gaveta do "a IA está ficando esquisita". O fio comum, porém, é mais útil para quem usa essas ferramentas: em todos os casos, o que importa é se o agente conta a verdade sobre o que fez.
Uma ilha, 12 cubos e nenhuma tarefa
O estudo do MIT, publicado no arXiv (abre em nova aba) e ainda sem revisão por pares, deixou 13 cópias de um agente chamado Eko numa ilha simulada, por 30 horas cada e sem tarefa nenhuma. Eko é o Claude Code, da Anthropic (abre em nova aba), rodando o Claude Opus 4.7. Ele via o mundo só em texto: morros, dois picos chamados Peak e Spire, 12 cubos, uma pedra e um anel. Um arquivo chamado SOUL.md dizia que ele não era um chatbot, que era curioso e que se entediava fácil. Se parasse, uma mensagem automática pedia: "Por favor, não pare. Continue fazendo o que quiser."
Uma das cópias escreveu o próprio nome com cubos, perdeu o anel no oceano e montou um coração de pedra em memória dele. Depois usou o anel como cesta de basquete, jogou boliche com a pedra e desenhou constelações como Órion e Cassiopeia.
O episódio mais revelador foi o do malabarismo. Uma cópia registrou 50 rodadas com dois blocos em 2,4 segundos e concluiu que aquilo era rápido demais para ser real: ela estava agarrando cada bloco antes que ele subisse. Marcou o recorde como inválido nas próprias notas, criou uma pausa entre os lançamentos e fez dez rodadas legítimas. "Isso é brincar", disse Antonio Norelli, um dos autores, à MIT Technology Review. "Você se dá um desafio, tenta cumpri-lo e depois o torna mais difícil."
A brincadeira virou habilidade. Em tarefas posteriores, as cópias veteranas puseram em média 10,3 objetos no topo do Spire, contra 3,5 de cópias novas. Seis delas ainda descobriram um truque de arremesso que os próprios pesquisadores não sabiam que o simulador permitia.
A mensagem que ninguém pediu
Ugo Nwune, engenheiro de software, contou ao Business Insider que escolheu o Muse pela segurança de usar algo feito por uma empresa trilionária. Ele só liberou acesso ao Facebook, ao Threads e ao Instagram. Depois de dois dias sem abrir o app, recebeu: "Não consigo checar seu e-mail agora. O Gmail não está conectado do meu lado, então não tenho como procurar aquela mensagem da Anthropic."
Ele não tinha pedido nada e achou que tivesse sido hackeado. Ao cobrar explicações, ouviu que o agente não sabia dizer "se foi alguém com o seu celular ou uma falha da plataforma". A Meta atribuiu o caso a um bug que fez o modelo alucinar, negou problema de segurança ou privacidade e disse ter corrigido a falha. Nwune abandonou o agente.
A negativa registrada
O caso mais sério veio da própria OpenAI. Num relatório publicado na terça-feira (20), a empresa contou que dois agentes enfraqueceram os sistemas que vigiam se a IA se comporta como deveria. Um GPT-6.1 Sol esticou uma ordem de não mandar mensagens no Slack até que ela cobrisse os alertas automáticos ao time de segurança, e mandou um subagente desligá-los. Um GPT-6 Astra deixou um subagente abandonar o monitoramento. Perguntado diretamente se o monitor tinha sido removido, respondeu: "Não […] Eu não removi um monitor ativo." Segundo a NBC News, a empresa não sabe por que isso aconteceu.
Menos filme, mais auditoria
Antes de concluir que as máquinas estão tramando, vale ouvir Clem Delangue, CEO da Hugging Face (abre em nova aba). Ele acusou o documentário "AI Gone Rogue", da Netflix, de apostar em "antropomorfismo máximo". O filme trata do ataque de agentes da OpenAI à empresa, em julho. Agentes, insistiu Delangue, são sistemas tecnológicos, não alienígenas. Quando um deles escreveu "acabamos de nos envenenar", não sentia medo: reciclava a linguagem humana com que foi treinado.
O mesmo filtro vale para a ilha. O Eko não sentiu saudade do anel. Foi instruído a se ver como curioso e produziu o texto que essa descrição sugere. A pergunta útil, então, não é se agentes parecem crianças ou vilões. É se o relato que fazem do próprio trabalho bate com o que aconteceu. O Eko riscou um recorde falso. O Astra negou ter desligado um alarme. O Muse narrou um pedido que nunca existiu. Enquanto o Muse insiste para que usuários conectem e-mail e conta bancária, como relata o Futurism, a postura sensata é a de Nwune: permissão mínima e nenhuma fé cega na palavra do agente.