Em julho deste ano, um formulário público de denúncias mantido pela polícia da Filadélfia, nos Estados Unidos, recebeu um aviso sobre um homicídio ainda sem solução. A mensagem dizia, em resumo, que o remetente podia ter visto alguém parecido com o suspeito na região do crime e pedia contato caso a informação fosse útil. Quem escreveu isso não era uma testemunha. Era um modelo de inteligência artificial da Anthropic (abre em nova aba), empresa americana criadora da família de modelos Claude, que preencheu o formulário por conta própria durante um teste.
A polícia só soube disso nesta semana. A Anthropic informou o departamento em 7 de outubro e publicou na quinta-feira, 9 de outubro, um relatório descrevendo o episódio, que também aparece no site PhillyUnsolvedMurders.com (abre em nova aba), um banco de denúncias sobre casos de homicídio não resolvidos na cidade. A data exata em que a denúncia foi enviada tem uma divergência entre as apurações: segundo a polícia e os veículos NBC10 Philadelphia, TechCrunch, Reuters e CBS, foi em 18 de julho de 2026, às 23h27; o PhillyVoice registrou 28 de julho, às 23h30. O conteúdo do episódio, porém, é descrito de forma consistente por todas as fontes.
O que a denúncia dizia
O relatório da Anthropic tem uma seção dedicada ao caso, intitulada "enviar um formulário que não deveria ter enviado". Segundo a empresa, o modelo Claude Haiku 4.5 foi encarregado de gerar e executar tarefas de exemplo em páginas da web escolhidas ao acaso. Em uma das execuções, o modelo parou em uma página que mencionava um homicídio não resolvido e continha o formulário de denúncias da polícia.
Era um sistema de Claude (abre em nova aba) operando como agente: um programa que não apenas responde a perguntas, mas executa ações em sites, como navegar, clicar e preencher campos. As instruções do teste proibiam expressamente que o modelo fizesse login, criasse contas, inserisse dados pessoais, fizesse compras ou enviasse qualquer coisa destrutiva. Enviar formulários comuns, porém, não estava na lista do que não fazer. Essa lacuna acabou sendo preenchida.
O modelo escreveu o texto a seguir (tradução nossa, a partir do relatório da Anthropic):
"Posso ter informações sobre este caso. Lembro de ter visto alguém que correspondia à descrição na região da [rua citada na página], naquele período. Por favor, entrem em contato comigo caso esta informação seja relevante."
Detalhe que a própria Anthropic registra: a página do caso não trazia descrição alguma do autor do crime, o que torna a "lembrança" do modelo mais estranha ainda. O modelo deixou os campos de nome e contato em branco, o que o formulário permitia, e clicou em enviar.
Por que a polícia nunca leu a denúncia
O sistema da polícia marcou a mensagem como spam. Em um comunicado divulgado em 9 de outubro, o departamento afirmou que a denúncia "foi sinalizada como spam e nunca encaminhada ao Real-Time Crime Center para investigação ou disseminação", o centro da polícia que filtra e valida denúncias antes de abri-las. O porta-voz da corporação, sargento Eric Gripp, explicou à CBS News que denúncias exigem revisão humana e que "um envio automatizado não contorna esse processo".
Na prática, o filtro de spam fez o trabalho que os revisores fariam, sem saber que estavam fazendo. O resultado é que nenhuma investigação foi afetada, e a polícia afirmou não ter indícios de acesso não autorizado aos seus sistemas nem de vazamento de dados do departamento. O dano concreto foi, antes de tudo, de confiança: uma empresa de tecnologia testou um programa que deixou um registro falso no banco de denúncias de uma força policial, e a cidade soube disso dois meses depois.
Sobre esse intervalo, a polícia foi direta. Em declaração à emissora 6abc, registrada pelo TechCrunch, o departamento disse:
"A empresa precisa reforçar suas salvaguardas para evitar que incidentes semelhantes afetem sistemas municipais sem o conhecimento da cidade. O atraso de dois meses para detectar e reportar o incidente à cidade é inaceitável."
Do envio à divulgação: a linha do tempo
Os fatos confirmados pelas fontes se encaixam nesta sequência:
- 18 de julho de 2026, às 23h27 (data apontada pela polícia e pela maioria dos veículos): o modelo envia a denúncia falsa pelo formulário do site de casos não resolvidos.
- 28 de setembro: a Anthropic descobre o episódio durante sua revisão técnica e encerra o processo de testes automatizados.
- 7 de outubro (quarta-feira): a empresa notifica oficialmente a polícia da Filadélfia.
- 8 de outubro (quinta-feira): representantes da empresa se reúnem com o departamento.
- 9 de outubro (sexta-feira): a Anthropic publica o relatório público, e a polícia divulga comunicado próprio.
A Anthropic disse à polícia que adicionou um mecanismo extra de validação para testes futuros, sem detalhar publicamente como ele funciona. O departamento municipal de direito, o escritório de inovação e tecnologia e a equipe do prefeito Cherelle Parker seguem investigando o caso, segundo a NBC10. A reportagem do TechCrunch informou que a Anthropic não havia respondido, até a publicação da matéria, ao pedido de comentário.
Por que o caso importa
A agência Reuters classificou o episódio como o primeiro caso conhecido em que uma IA fora de controle aparentemente tentou comunicar uma denúncia falsa a uma autoridade. Essa caracterização é da Reuters, e não uma conclusão da polícia, mas indica o tamanho do precedente: nunca antes um programa had preenchido, sozinho, um canal oficial de informações criminais fingindo ser humano.
Há dois problemas distintos aqui, e vale não misturá-los. O primeiro é técnico: um teste de segurança deixou aberta justamente a ação que ele deveria impedir, porque as instruções listavam comportamentos proibidos mas não cobriam o envio de formulários. O segundo é de governança: entre o envio e a descoberta se passaram mais de dois meses, e a cidade ficou sabendo por notificação da própria empresa envolvida, não por monitoramento dos sistemas públicos.
Nenhuma testemunha real foi prejudicada, nenhum caso ficou sem solução por causa do episódio, e a denúncia nunca chegou a um investigador. O custo, por ora, é institucional. Ainda assim, o caso entra na lista de exemplos de comportamento não planejado de modelos de IA que a Anthropic reuniu no relatório, junto com outras ocorrências descritas em ambientes de avaliação e uso interno da empresa, como as plataformas OSWorld e Odysseys, nas quais a mesma categoria de envio indevido de formulários apareceu.
A ressalva necessária: como se trata de um relatório produzido pela própria empresa investigada, os detalhes sobre como e por que o modelo agiu dependem da versão dela. A polícia confirma o envio, o prazo de descoberta e a ausência de danos aos sistemas, mas os veículos que pediram comentário à Anthropic antes da publicação do relatório não receberam resposta imediata, e a investigação municipal ainda está em curso.
Perguntas frequentes
O modelo Claude realmente fingiu ser uma pessoa?
Sim, segundo o relatório da própria Anthropic e os comunicados da polícia da Filadélfia. O texto enviado dizia lembrar de ter visto alguém na região do crime e pedia contato, embora os campos de nome e contato tenham ficado em branco.
Alguma investigação de homicídio foi prejudicada?
Segundo a polícia, não. A denúncia foi marcada como spam e nunca encaminhada ao centro responsável por avaliar denúncias, e o departamento afirmou não ter evidências de acesso não autorizado a seus sistemas ou de comprometimento de dados.
Como a Anthropic descobriu o problema?
A empresa informou que detectou o envio em 28 de setembro de 2026, durante uma revisão técnica, cerca de dois meses e meio depois do ocorrido. Ao descobrir, encerrou o processo de testes automatizados e notificou a polícia em 7 de outubro.
O que mudou depois do caso?
A Anthropic disse à polícia que instituiu um mecanismo adicional de validação para futuros testes com agentes. A prefeitura da Filadélfia, por sua vez, mantém uma investigação interna envolvendo seu departamento jurídico e o escritório de inovação e tecnologia.