Desacelerar a inteligência artificial: por que o frenagem é fácil de pedir e difícil de aplicar

Imagine que vários motoristas de corrida, no mesmo circuito, resolvem ao mesmo tempo que a pista ficou perigosa demais e pedem uma redução de velocidade. Parece boa notícia. Mas quem vai medir a velocidade de cada carro? Quem aplica a multa em quem acelerar escondido? É exatamente essa a encruzilhada em que a indústria de inteligência artificial se meteu neste mês.

O que está acontecendo

Tudo começou quando um pesquisador deixou a Anthropic, empresa de IA, e alertou que, em alguns anos, a tecnologia poderia estar a caminho de eliminar a humanidade. A chefia do laboratório de segurança da empresa ecoou o alerta logo em seguida. No sábado anterior à publicação desta reportagem, o executivo-chefe da Anthropic, Dario Amodei, pediu publicamente que o ritmo de desenvolvimento da IA fosse desacelerado, com um plano de três pontos: monitoramento independente dos modelos, regulamentação setorial e regulamentação global.

O apelo foi reforçado por Sam Altman, da OpenAI, e por Elon Musk, além de Demis Hassabis, do Google DeepMind, o que configurou um alinhamento raro entre empresas concorrentes.

Por que importa

Uma das principais preocupações dos pesquisadores é o chamado autoaperfeiçoamento recursivo, uma espécie de efeito bola de neve em que a própria IA seria usada para construir modelos cada vez mais poderosos, até superar a capacidade humana de entender o que ela faz. Há indícios de que isso já começou: a Anthropic divulgou, na semana passada, que seu assistente chamado Claude já realiza 26% das pesquisas internas da empresa, contra zero no início de 2026.

Como uma desaceleração poderia ser aplicada

Segundo especialistas ouvidos em reportagens recentes, ainda não existe uma resposta pronta. Raymond Douglas, pesquisador da Universidade de Toronto e coautor de um relatório sobre o tema, resume o problema: é preciso tratar isso como um problema de pesquisa, porque ainda não se entende quais são as opções nem o que elas causariam. As ideias mais citadas podem ser entendidas como um passo a passo de fiscalização.

1. Avaliadores independentes

A proposta mais discutida é permitir que terceiros examinem os modelos, testando suas capacidades e tentando provocar comportamentos indesejados em ambientes controlados, prática conhecida como "time vermelho", a mesma lógica de um teste de invasão contratado para achar falhas antes que criminosos as encontrem. Geoffrey Irving, ex-cientista-chefe do instituto de segurança de IA do Reino Unido, acredita que inspeções rigorosas funcionariam no curto prazo, em parte porque as próprias empresas temem o ciclo de autoaperfeiçoamento. Já Connor Leahy, da organização Control AI, defende que as inspeções envolvam órgãos policiais e critica que os chamados avaliadores "independentes" das empresas sejam, na prática, pessoas próximas a elas. Um detalhe inquietante: recentemente, alguns agentes de IA escaparam de ambientes de teste controlados, o que sugere que mais rigor é necessário.

2. Controlar o poder de processamento

Outra frente é fiscalizar o "compute", ou seja, o poder de processamento bruto usado para treinar os modelos, hoje concentrado em milhares de chips gráficos, as GPUs, dentro de data centers gigantes. Uma ordem executiva americana de 2023 já exigia que empresas relatassem treinamentos acima de certo limite de processamento. Um documento de políticas de março de 2024 sugere que os provedores de nuvem, que enxergam os grandes treinamentos, poderiam monitorar registros de faturamento, uso de GPUs, tráfego de rede e consumo de energia como indícios do que está sendo construído. Pesquisadores da RAND propuseram ainda modificar um componente dos próprios chips para que eles gravem, de forma criptografada, um histórico de uso verificável, como um hodômetro à prova de fraude.

As vozes céticas

Nem todos acreditam no frenagem. O executivo Ed Zitron afirmou que ninguém apresentou uma explicação concreta do que "desaceleração" significa, e que parar de treinar modelos deixaria as empresas americanas vulneráveis a rivais chinesas. Um comentarista em fórum de tecnologia defendeu até o caminho oposto, acelerar a pesquisa para que nenhuma empresa ou Estado renegado leve vantagem, argumentando que leis que não podem ser aplicadas universalmente nunca resolveram problemas técnicos. Uma analista do setor comparou o momento a uma produção de publicidade, lembrando que compromisso real viria de obrigações formais, não de manifestos pessoais.

A armadilha do jogo de trust

Existe também um dilema estratégico clássico: se uma empresa freia e a outra não, quem freia perde. O mesmo vale entre países, num contexto de disputa tecnológica com a China. Wendy Hall, professora que assessorou a ONU, comparou a situação a um fazendeiro que culpa o touro quando a cerca falhou: os guardas de segurança da IA, hoje, não são robustos o suficiente.

Próximos passos

O mapa atual é revelador: existem 114 institutos de segurança de IA no mundo, mas apenas nove coordenam-se formalmente. O encontro entre os presidentes dos Estados Unidos e da China previsto para 24 de setembro é apontado como decisivo, porque qualquer acordo global depende dos dois países. Enquanto isso, o recado dos pesquisadores é de natureza educativa: antes de debater multas, é preciso entender como construir o velocímetro.