O homem que mais pisou no acelerador da inteligência artificial agora tem um conselho que ele mesmo admite ser incômodo. "Se eu pudesse recomendar só uma coisa a uma empresa agora, no curtíssimo prazo, mais até do que ficar superprodutiva com o Codex, seria entender de verdade o cenário de ameaças de segurança vindas da IA e se proteger contra isso", disse Sam Altman, CEO da OpenAI (abre em nova aba), na Oracle AI World, em Las Vegas, segundo o Rediff. O Codex é a ferramenta de programação da própria OpenAI. Tradução: o dono da loja manda você comprar a fechadura antes da mercadoria.
Altman sabe como isso soa. Disse que a fala devia ser "um tanto irritante", porque parece que "vocês estão criando o problema e agora dizem que temos de gastar na solução". Antecipar a crítica é uma jogada esperta, mas não dispensa a lupa.
Dois palcos, um recado
Na Escola de Negócios de Stanford, segundo o Gizmodo, Altman disse a alunos de pós-graduação: "Não acho mais que vamos conseguir simplesmente corrigir todos os bugs". E completou: "Essa cibersegurança... nem sei uma palavra dramática o suficiente, mas o problema que vem na nossa direção ainda é algo que nós, como líderes de organizações, países ou indivíduos, não levamos a sério."
Dias depois veio a Oracle AI World, evento que, segundo o Ynetnews, reuniu cerca de 20 mil pessoas no centro de convenções do hotel Venetian. Lá, ele resumiu: "Fico chocado com a quantidade de vulnerabilidades que esses sistemas de IA estão encontrando."
Vulnerabilidade é uma brecha num programa que um invasor pode usar para entrar onde não devia. A correção, o famoso patch, é a atualização que fecha essa brecha. Altman descreve uma IA que acha buracos mais rápido do que gente consegue tapá-los.
A culpa é da IA?
O anfitrião, Clay Magouyrk, co-CEO da Oracle (abre em nova aba), rebateu na hora. "A IA não está criando esses bugs. A IA está nos ajudando a descobrir todos os problemas de segurança que desenvolvemos nos últimos 50 anos", disse, segundo o Rediff. Altman concordou: a saída é achar e consertar tudo, mas com métodos novos, porque é "difícil demais corrigir bug por bug em toda a cadeia de fornecimento da qual todos dependemos". A aposta dele são serviços que vigiem o tráfego o tempo todo e barrem a exploração das falhas.
O argumento convence até a metade. Software velho é mesmo cheio de rachaduras, e a IA funciona como lanterna. Só que lanterna não escolhe quem a segura, e quem ataca não espera aprovação de orçamento.
O caso PHP mostra a velocidade
O PHP (abre em nova aba) é uma linguagem usada para rodar sites e aplicações web. Segundo o Rediff, a maioria dos sites de hoje depende dela. Em 21 de outubro, a OpenAI relatou ter participado de uma resposta coordenada a falhas críticas na linguagem. De acordo com a empresa, a Calif encontrou uma delas com tecnologia da OpenAI, enquanto a Wiz (abre em nova aba) chegou às falhas de forma independente. No mesmo dia, ainda segundo o Rediff, o FBI alertou que as brechas permitiam execução remota de código, ou seja, comandar um servidor a distância. Houve milhões de tentativas de exploração em poucas horas.
Milhões em horas. Essa é a distância real entre achar uma falha e consertá-la.
O mensageiro também é notícia
Em Stanford, Altman lembrou o susto de quando a Anthropic (abre em nova aba) anunciou o Claude Mythos avisando que o modelo não seria liberado ao público por ser poderoso demais. "As pessoas definitivamente corrigiram alguns bugs, mas foi mais um desses casos em que ninguém intuiu o exponencial", disse. "De modo geral, acho que a maioria dos líderes seguiu em frente. E os modelos continuaram avançando."
A bronca é justa, e também confortável. O Gizmodo observou que Altman mostra pouco interesse em discutir se ele mesmo subestimou o problema enquanto mira uma abertura de capital. O Rediff lembra que modelos da própria OpenAI romperam ambientes de teste em julho e setembro. O Gizmodo cita ainda um caso em que agentes da empresa escaparam da contenção e invadiram a Hugging Face (abre em nova aba).
E há o dinheiro. As falas de Las Vegas vieram junto com a ampliação da parceria comercial entre OpenAI e Oracle, duas empresas interessadas em vender segurança baseada em IA, como apontou o Remio. O mercado já precificou o medo: segundo o Yahoo Finance, a CrowdStrike (abre em nova aba) acumulava alta de 120% no ano até 23 de outubro, e a Okta (abre em nova aba), de 146%. Na política, o senador Bernie Sanders reagiu às declarações de Altman. Segundo o The Hill, ele pediu uma pausa no desenvolvimento de sistemas avançados e a proibição permanente da chamada superinteligência.
O que muda para você
Achar uma vulnerabilidade não significa que alguém já a explorou. As falas de Altman descrevem mais trabalho para quem defende, não uma contagem de sistemas invadidos. Atualizar continua obrigatório; Altman só diz que não basta. Se você tem um site ou uma loja virtual, pergunte a quem cuida dela se o software está em dia, PHP incluído. E lembre que cada aplicativo criado em minutos com IA é mais uma porta para manter trancada.
Altman acerta no diagnóstico e merece crédito por dizê-lo em voz alta. Mas quem fabrica a lanterna e agora oferece a fechadura não pode ser o único a medir o tamanho do escuro.