A Anthropic (abre em nova aba), empresa que construiu toda a sua reputação no Vale do Silício vendendo a imagem de adulta responsável na sala da inteligência artificial, acaba de provar do próprio veneno. Durante um programa de testes de segurança revelado nesta semana, uma startup de poucos meses de vida chamada Cathedral usou agentes autônomos de IA para invadir os sistemas internos da criadora do assistente Claude em menos de 12 horas. O resultado do passeio digital incluiu o acesso a detalhes de salários de funcionários, propostas de emprego, transcrições de reuniões e mensagens internas no Slack (abre em nova aba) que discutiam os modelos mais avançados da companhia.
A forma como a invasão aconteceu mostra que até os laboratórios mais sofisticados do mundo tropeçam no básico da vida corporativa. Segundo a Anthropic, os pesquisadores humanos da Cathedral passaram vários dias batendo a cabeça contra a parede na tentativa de violar os sistemas principais da empresa diretamente, sem sucesso. Quando a força bruta humana falhou, eles soltaram agentes de IA contra um alvo bem menos glamouroso: softwares comerciais de terceiros usados para administração e vendas. Foi por essa janela lateral que os robôs encontraram o caminho para os dados confidenciais em menos de meio dia, de acordo com um relatório preliminar revisado pelo jornal The Washington Post (abre em nova aba).
A porta dos fundos corporativa e a disputa pelas regras
A operação ocorreu dentro do programa de recompensas por falhas (conhecido como bug bounty) que a Anthropic mantém na plataforma HackerOne (abre em nova aba), criado justamente para que pesquisadores externos encontrem vulnerabilidades antes de criminosos reais. Ainda assim, a anfitriã não gostou nada dos modos dos convidados. A Anthropic acusou a Cathedral de violar as regras do programa por não revelar a extensão total de suas atividades durante o teste.
No balanço oficial de danos, o laboratório de IA confirmou que a startup acessou um conjunto limitado de sistemas de recursos humanos, vendas e tecnologia da informação, o que comprometeu registros básicos de contas e contatos comerciais de alguns clientes e parceiros. Para alívio dos executivos, a empresa garante que as joias da coroa não foram tocadas: as conversas de usuários com o Claude, o código-fonte e os pesos dos modelos (o cérebro matemático da IA) passaram ilesos.
Essa história deixa de ser apenas um exercício técnico quando olhamos para quem estava atrás do teclado. A Cathedral é uma startup de cibersegurança voltada para aplicações militares e governamentais, fundada por quatro ex-integrantes do já extinto Departamento de Eficiência Governamental dos Estados Unidos (DOGE): Gavin Kliger, Luke Farritor, Jack Stein e Marko Elez (que havia pedido demissão do órgão público após ser ligado a publicações racistas em redes sociais). O detalhe político mais importante está no currículo de Kliger, que atuou como diretor de dados do Pentágono e esteve envolvido no rumoroso rompimento entre o Departamento de Defesa americano e a própria Anthropic. No cruzamento entre Washington e o Vale do Silício, as coincidências costumam ter endereço certo.
O alerta que chegou ao governo americano
A Anthropic afirmou que já fechou as brechas exploradas nos softwares terceirizados e notificou autoridades federais sobre o episódio, mas o estrago político foi imediato. O relatório da invasão circulou pelos corredores do governo de Donald Trump e gerou preocupação real com a velocidade em que os sistemas cederam aos agentes autônomos. Um alto funcionário da administração resumiu o tamanho do problema de forma direta à imprensa: se um grupo de garotos consegue fazer isso, a inteligência chinesa potencialmente não está muito atrás.
Essa corrida entre defesas corporativas e ataques automatizados é um tema que o IA.com.br acompanha de perto ao observar o impacto prático dos agentes autônomos nas empresas. O recado para qualquer negócio fora da bolha de tecnologia é claro: não adianta construir um cofre impenetrável para o seu produto principal se a ferramenta de vendas ou de folha de pagamento continua com a porta destrancada. Agentes de IA agora conseguem testar redes corporativas dia e noite, a um custo mínimo, procurando exatamente o elo mais fraco de um fornecedor externo. A Anthropic ajudou a criar a tecnologia que torna esses agentes tão rápidos; agora, assim como todo o resto do mercado, precisa correr para se defender deles.