Empresas de inteligência artificial tratam o funcionamento interno de seus modelos como segredo comercial. Na quinta-feira (15), a Anthropic (abre em nova aba) anunciou o caminho contrário: seis pesquisadores de uma organização externa, o METR, passaram a ter laptops da empresa, espaço no escritório e acesso a ferramentas e sistemas internos em nível parecido com o das próprias equipes de avaliação de risco da companhia. O detalhe que separa esse acordo de parcerias anteriores: o que esses pesquisadores concluírem poderá ser publicado sem que a Anthropic possa impedir.
O anúncio saiu no blog oficial da empresa, que também confirmou o movimento em sua conta no X:
"Nos comprometemos a ter avaliadores externos para examinar nossas práticas de segurança. Estamos em conversas com várias organizações e já concedemos acesso semelhante ao de funcionário a uma equipe da @METR_Evals."
Quem é o METR e o que ele recebeu
O METR, sigla em inglês para Avaliação de Modelos e Pesquisa de Ameaças, é uma organização sem fins lucrativos dedicada a testar modelos de IA de fronteira, nome dado aos sistemas mais avançados disponíveis. De acordo com post publicado no blog do METR (abre em nova aba) em 14 de outubro, a organização estuda a ciência de testes de perda de controle desde 2022 e prototipa exercícios de avaliação com desenvolvedores desde 2025. Em maio deste ano, publicou um relatório piloto de riscos de fronteira em colaboração com Anthropic, Google, Meta e OpenAI.
O que muda agora é a profundidade do acesso. Os seis funcionários do METR integrados à Anthropic têm equipamento da empresa, espaço físico de trabalho e alcance a sistemas internos que, segundo o anúncio, ficam em patamar próximo ao das equipes internas que avaliam riscos. Fora de algumas categorias restritas, os funcionários da Anthropic são incentivados a compartilhar informações com eles assim como fariam com um colega que trabalha com riscos de alinhamento, área que estuda como manter modelos avançados sob controle.
O que pode ser publicado e o que não
A Anthropic abre mão do direito de vetar as publicações do METR sobre seus níveis de risco, incidentes e práticas de segurança. O que a empresa mantém é um poder mais estreito: exigir a remoção, do texto, de informações que se encaixem em categorias predefinidas e limitadas. São três, conforme o anúncio: dados sobre clientes, informações protegidas por sigilo entre advogado e cliente e detalhes sobre a arquitetura dos modelos, ou seja, o desenho técnico interno dos sistemas.
A remoção não é silenciosa. O METR pode dizer publicamente o que foi censurado e declarar se considera a remoção justificada, desde que não revele o conteúdo retirado. Na prática, o leitor de uma futura avaliação saberá que existe um trecho apagado e terá a opinião do avaliador sobre se o apagamento foi legítimo.
O acordo também tem limites organizacionais. A interação se restringe a uma equipe pequena, operando sob contratos com força legal. Outros funcionários do METR ficam isolados do trabalho desse grupo, o que reduz o risco de informações internas da Anthropic circularem além do previsto.
Três níveis de acesso externo
O post da Anthropic descreve um sistema de três camadas para avaliadores independentes, reportado também pela Reuters e pelo TechCrunch:
| Nível | Tipo de acesso | Direito de publicação |
|---|---|---|
| 1 | Investigações de escopo estreito; acesso decidido pela Anthropic | Depende de aprovação da empresa |
| 2 | Mais informações que o nível 1 | Sem aprovação, sujeito a remoções que o avaliador pode contestar publicamente |
| 3 | Acesso semelhante ao de funcionário | Direitos de publicação equivalentes aos do nível 2 |
O METR é, até agora, o único avaliador no terceiro nível. A SecureBio opera no primeiro: segundo o anúncio, a organização revisa o capítulo sobre armas químicas e biológicas do relatório de riscos de agosto da Anthropic, depois de ter publicado uma revisão piloto do relatório anterior. A Accenture e a Faculty trabalham rumo a uma parceria que inclui avaliar modelos, conduzir testes de ataque controlado, em que pesquisadores tentam fazer o sistema falhar de propósito, e examinar salvaguardas, os mecanismos de proteção dos modelos. Há ainda conversas iniciais com outras organizações, entre elas a Hugging Face.
Por que agora
O contexto do anúncio é uma promessa feita antes do fato. Segundo o TechCrunch, a decisão corresponde a um compromisso público do executivo-chefe da Anthropic, Dario Amodei, descrito em um ensaio de setembro, e a OpenAI fez promessa equivalente. No mês passado, Anthropic, OpenAI, Google, Meta, Nvidia e xAI assinaram um acordo mediado pela Casa Branca no qual as empresas se comprometeram a trabalhar com auditores ou avaliadores externos independentes. O próprio blog da Anthropic cita esse acordo como pano de fundo. O post do METR registra que Amodei mencionou a incorporação de grupos de avaliação com acesso de funcionário e que Sam Altman, da OpenAI, confirmou na rede X que sua empresa faria o mesmo.
As ressalvas do próprio avaliador
Um dia antes do anúncio da Anthropic, o METR publicou uma proposta sobre como informar melhor o público sobre riscos de perda de controle no desenvolvimento de IA. O texto é uma proposta, não um relatório de resultados, e nele a organização aponta limites que interessam a quem lê o anúncio desta quinta-feira com atenção.
O METR afirma que sua proposta não exige o tipo de acesso de funcionário agora concedido, que não há hoje forma de proteção completa contra retaliações por achados desfavoráveis e que o acesso solicitado pode ser aprovado ou negado a critério de cada empresa. A organização também lista o que seus princípios não cobrem, como auditorias de segurança da informação. Ou seja, parte da estrutura continua dependendo da boa vontade de quem está sendo avaliado, e o próprio avaliador diz isso sem rodeio.
Nenhuma avaliação resultante desse novo acesso foi publicada até agora. O que existe é um anúncio de arranjo, não um resultado comprovado.
Isso responde, de quebra, a pergunta prática de quem usa os produtos da Anthropic: não foi anunciada nenhuma mudança imediata nos modelos ou nos produtos da empresa por causa dessas avaliações. O efeito esperado é indireto, no formato de análises públicas que podem, com o tempo, pressionar ou orientar práticas de segurança. Que tanta transparência produza avaliações realmente publicadas, e não só acordos, é o que os próximos relatórios do METR dirão.
Perguntas frequentes
O que significa "acesso de funcionário" nesse caso?
Significa que os seis pesquisadores do METR receberam equipamento da empresa, espaço no escritório e alcance a ferramentas e sistemas internos em nível próximo ao das próprias equipes de avaliação de risco da Anthropic, algo raro para uma organização de fora.
O METR já publicou alguma avaliação decorrente desse acordo?
Não. O acordo foi anunciado em 15 de outubro de 2026 e o METR poderá publicar resultados futuros. Avaliações anteriores do METR sobre a Anthropic existem, como a revisão piloto colaborativa de maio, mas nada ainda decorrente desse novo acesso.
O que a Anthropic ainda pode impedir de ser publicado?
A empresa não pode vetar publicações, mas pode exigir a remoção de informações em categorias predefinidas: dados de clientes, material protegido por sigilo entre advogado e cliente e detalhes da arquitetura dos modelos. O METR pode dizer publicamente o que foi removido e se considera a remoção justificada.
Outras empresas de inteligência artificial oferecem acesso parecido?
A OpenAI prometeu o mesmo tipo de arranjo, segundo o post do METR, mas não há notícia de que o tenha implementado. A Anthropic também trabalha com avaliadores em níveis inferiores de acesso, como a SecureBio, e mantém conversas iniciais com outras organizações, incluindo a Hugging Face.