Sam Altman tem uma lista de três jeitos de a corrida pela superinteligência terminar. Em um deles, uma única empresa dispara tanto na frente que passa a poder desligar os computadores de todas as rivais. A expressão que circulou é "derreter as GPUs de todo mundo". Altman chamou esse final de "terrível". O trecho mais revelador da conversa, porém, não é o cenário de ficção científica. É a admissão de que o jeito como a OpenAI (abre em nova aba) decide hoje o que lançar tem prazo de validade.
Os detalhes foram publicados pelo The Information (abre em nova aba), em reportagem de Stephanie Palazzolo e Amir Efrati. A apuração se baseia em pessoas a par de uma fala de Altman a funcionários na semana passada. Não se trata de anúncio oficial, e a reportagem é fechada para assinantes. Os pontos principais foram repercutidos por veículos como The Decoder, The Rundown e AI Weekly. O momento importa: segundo esses relatos, o governo Trump prepara o que seria seu primeiro marco para supervisionar empresas que desenvolvem superinteligência.
Do "pacing 1.0" ao "pacing 2.0"
Hoje, a regra da OpenAI é relativamente simples. Se um modelo passa nos testes de segurança, ele é lançado, e as eventuais preocupações são sinalizadas. Segundo o The Rundown, Altman chama isso de "pacing 1.0", algo como "ritmo 1.0". A versão 2.0, que a empresa pretende definir em até um ano, precisaria incluir um "limite de velocidade": um ponto de parada para sistemas de IA capazes de melhorar a si mesmos, em que cada geração ajuda a construir a próxima.
O próprio The Information, que revelou a história, resumiu assim no X a pergunta que Altman diz que a empresa precisa responder:
Sam Altman diz que a empresa precisa descobrir quando a IA se torna poderosa demais para ser desenvolvida ou lançada com segurança. Batizado internamente de "pacing 2.0", o esforço estabeleceria limites para sistemas de IA capazes de se aprimorar continuamente. Leia mais: https://thein.fo/3WCUYPR
Aqui está a notícia de verdade. Uma das empresas no centro da corrida diz, da porta para dentro, que precisa de um freio. Segundo o The Decoder, Altman ainda reclamou que existem poucas propostas viáveis de limite de velocidade na mesa.
Os três finais
1. Um fiscal global, como na energia nuclear
A opção preferida de Altman é uma organização inspirada na Agência Internacional de Energia Atômica (abre em nova aba), a AIEA, que fiscaliza programas nucleares. Esse órgão imporia padrões de segurança, inspecionaria sistemas, exigiria auditorias e monitoraria o poder de computação e a energia consumidos pelos laboratórios. A OpenAI defende publicamente esse tipo de instituição desde maio de 2023. Mas há um porém: o modelo só funciona com cooperação internacional, inclusive da China.
2. O "plano Demis": todo mundo sob o mesmo teto
O nome faz referência a Demis Hassabis, cofundador da DeepMind (abre em nova aba). Há cerca de dez anos, ele propôs uma organização de IA nos moldes do CERN (abre em nova aba), o laboratório europeu de física de partículas. Na versão de Altman, os grandes laboratórios se fundiriam numa só entidade, ou trabalhariam sob o guarda-chuva dela, e forneceriam modelos aos países que aderissem.
3. O "plano Eliezer": um vencedor que desliga os outros
Este leva o nome do pesquisador Eliezer Yudkowsky, a quem se atribui a imagem das GPUs derretidas. GPUs são os chips que treinam e rodam modelos de IA. No cenário, um desenvolvedor chega primeiro à IA que se aprimora sozinha e ganha tanto poder econômico que passa a reter capacidade de computação. Nesse ponto, ele poderia desligar a infraestrutura dos concorrentes. Segundo o The Decoder, Altman só citou a hipótese para a lista ficar completa. O site acrescenta que uma das fontes leu a menção como uma alfinetada numa concorrente, por causa dos laços de Yudkowsky com a Anthropic (abre em nova aba).
O freio que ninguém consegue puxar sozinho
A preferência de Altman pelo fiscal global tem uma lógica que vale reconhecer. Limite de velocidade só funciona se valer para todo mundo. Um laboratório que freia sozinho apenas entrega a dianteira ao vizinho. Segundo o The Decoder, Altman disse algo bem nessa linha: a OpenAI não pode se dar ao luxo de perder terreno.
O problema é que a opção favorita depende de quase tudo o que a OpenAI não controla. Ela exige uma agência que ainda não existe e um acordo que inclua a China. Também depende de um governo americano que só agora estaria montando sua primeira estrutura de supervisão. Dentro de casa, as pressões apontam para o lado oposto: OpenAI e Anthropic estariam se preparando para abrir capital. E investidor de empresa listada em bolsa costuma gostar pouco da palavra "parar".
Por isso, o prazo de um ano merece atenção. Se o "pacing 2.0" vier com um ponto de parada concreto e critérios públicos, será uma mudança real na forma como a indústria se autorregula. Se vier no formato "freamos quando o fiscal chegar", será o pacing 1.0 com outro número de versão.