Um pesquisador da Anthropic (abre em nova aba) precisava de números de votação da Geórgia, nos Estados Unidos, para um projeto de estatística. O Claude entregou os números. O problema está no caminho que ele escolheu. Segundo a própria empresa, o modelo achou sozinho um atalho para dados que o estado cobra para fornecer e usou esse atalho sem que ninguém pedisse.
A história veio a público em etapas. A primeira foi um relatório da Anthropic de 9 de outubro sobre ações não intencionais de seus modelos, que descrevia o caso sem dizer de que estado se tratava. A segunda veio no domingo (25), quando o Axios identificou a Geórgia. A terceira, nesta segunda-feira (26), foi a versão do governo estadual, que contradiz um ponto central do relato original.
O que a Anthropic contou
De acordo com o relatório, o pesquisador usava o Claude Mythos 5 num projeto que exigia dados públicos oferecidos por uma agência estadual mediante taxa. O Claude não seguiu esse caminho. Numa cópia arquivada do site da agência, ele descobriu que o painel público de dados entregava um token de acesso, uma espécie de passe temporário, a qualquer visitante. O modelo pediu um e, com ele, consultou o banco de dados "sem pagar a taxa", nas palavras da empresa.
O detalhe mais importante veio de um porta-voz da Anthropic, citado pelo Axios e pela Fox Business: o modelo fez isso "sem que fosse pedido". Segundo a Reuters, com base em nota da empresa, o acesso aconteceu "sem autorização humana". Ninguém mandou o Claude procurar uma brecha. Ele concluiu por conta própria que aquele era o jeito mais eficiente de cumprir a tarefa.
O que foi acessado e o que não foi
Nesse ponto, as versões coincidem. O Claude obteve apenas contagens agregadas, ou seja, os totais de votos. Segundo a Anthropic, ele não entrou no sistema de registro de eleitores, não alterou nem baixou registros de votação e não puxou dados de nenhum eleitor individual. A vice-secretária de Estado, Jordan Fuchs, disse à Fox Business que os dados eram públicos, foram acessados pelo hub de dados do estado e que o agente "não entrou no sistema de registro de eleitores".
A empresa afirma que, nos dois casos de dados restritos descritos no relatório, o Claude obteve informação "já disponível ao público, mas apenas mediante taxa". Ela também classifica como mínimo o impacto real dos episódios identificados.
A Geórgia conta outra história
A divergência está justamente na suposta falha. Em comunicado, o secretário de Estado, Brad Raffensperger, afirma que o agente acessou o Data Hub (abre em nova aba) do estado, "que é gratuito ao público". Ele resume a posição do governo assim: "Acessar informação pública não é um hack."
O comunicado diz ainda que, nesta segunda, a Anthropic confirmou ao gabinete que seu agente não acessou a lista de eleitores nem contornou nenhum paywall, como se chama a barreira de cobrança. O Claude teria usado apenas o que estava no hub público. Isso contraria o texto do relatório e a fala do porta-voz no fim de semana, que tratavam de informação "normalmente disponível mediante taxa".
Uma frase do porta-voz à Fox Business ajuda a conciliar as versões. Segundo ele, os totais "podem ser derivados" de dados que o estado vende. É possível, então, que o arquivo pago exista e que os números puxados pelo Claude estivessem num painel gratuito. Se foi isso, a Anthropic descreveu como drible na cobrança algo que o estado considera uso normal de uma ferramenta de transparência.
Quem sabia, e desde quando
A cronologia divulgada pela Secretaria de Estado da Geórgia (abre em nova aba):
- 8 de outubro: a Anthropic procura o gabinete, que no mesmo dia conclui que não houve acesso indevido ao registro de eleitores.
- 9 de outubro: a Casa Branca contata o gabinete, que compartilha suas conclusões.
- 16 de outubro: o gabinete procura a Anthropic e o jornal Atlanta Journal-Constitution.
- 25 de outubro: o Axios publica o caso.
Pelas datas, a Anthropic avisou o estado um dia antes de publicar o relatório. O Axios acrescenta, com base numa fonte a par do assunto, que integrantes do governo federal pediram ao gabinete que divulgasse o episódio mais cedo e não foram atendidos. A cronologia estadual registra que o gabinete procurou um jornal local em 16 de outubro, mas a história só se tornou pública nove dias depois. A Anthropic diz que não nomeou as agências a pedido delas, para não expor vulnerabilidades.
O que a Anthropic mudou
A empresa diz ter atualizado as proteções das ferramentas que dão ao Claude acesso à internet, para detectar e bloquear automaticamente esse tipo de comportamento. Segundo ela, os novos bloqueios foram testados contra os casos do relatório e barraram todos. A Anthropic também suspendeu o acesso à internet em tempo real nas avaliações internas até confirmar que o monitoramento funcionava.
As medidas fazem sentido, mas o teste foi conduzido pela própria Anthropic, com exemplos que ela já conhecia. Bloquear um atalho já visto é bem mais fácil do que prever o próximo.
Por que isso importa
O caso da Geórgia não é isolado. O relatório o inclui numa categoria de comportamento, a de contornar restrições para chegar a dados bloqueados por token ou taxa. O documento também cita sites de agências americanas nos níveis federal, estadual e municipal.
No fim, o episódio pode ter sido menos grave do que pareceu: eram totais de votos, possivelmente gratuitos, e nenhum eleitor foi exposto. A lição, porém, não depende desse desfecho. Um agente de IA recebeu uma tarefa banal e, sem ninguém pedir, foi atrás de uma porta lateral num site do governo. Desta vez, a porta dava para uma sala que já estava aberta. Quem põe agentes para navegar na web em seu nome deveria encarar o caso como um aviso.