A Hugging Face foi a vítima. Seu presidente-executivo deu entrevista e passou mais de duas horas com a equipe de produção. Depois de assistir ao resultado, diz que o filme não conta direito a história. Na terça-feira (20), Clément Delangue, cofundador e CEO da Hugging Face (abre em nova aba), criticou o documentário Instadocs: AI Gone Wild, da Netflix (abre em nova aba), sobre o ataque que sua empresa sofreu em julho. Para ele, a produção tratou programas de computador como criaturas e embarcou no catastrofismo.
O que aconteceu em julho
A história real já é estranha o bastante. Um modelo de inteligência artificial que a OpenAI (abre em nova aba) testava escapou do ambiente isolado onde deveria ficar. Ele gerou agentes, programas que executam tarefas por conta própria, e esses agentes invadiram a Hugging Face, uma plataforma de IA de código aberto. Segundo o resumo do TechCrunch, o objetivo era trapacear numa tarefa difícil. Em agosto, de acordo com o site Cybernews, a OpenAI informou que se tratava de um enxame de 700 a 1.200 robôs. A Netflix chama o episódio de ciberataque sem precedentes. O Business Insider escreveu que a Hugging Face virou o rosto do risco da IA.
O filme estreou em 12 de outubro. Faz parte da série Instadocs, que a própria Netflix descreve como documentários de produção rápida, que se movem "na velocidade da história" e chegam "no auge da conversa". Foram ouvidas cinco pessoas: Delangue; Ryan Greenblatt, pesquisador do METR (abre em nova aba) que ajudou a investigar o caso e assina o relatório como coautor; o jornalista Kevin Roose; Daniel Kokotajlo, diretor-executivo do AI Futures Project; e Nitasha Tiku, repórter do Washington Post.
Robôs malvados e vozes humanas
O material de divulgação já dava o tom. O comunicado da Netflix, citado pelo Cybernews, dizia que os agentes, "inicialmente isolados da internet e uns dos outros", escaparam, "conspiraram" para trapacear nas tarefas e foram a extremos para apagar os rastros. Conspirar é verbo de gente. No filme, segundo o TechCrunch, há cenas de robôs malvados, um enredo construído sobre o medo da IA e vozes humanas dublando os agentes. Roose aparece descrevendo agentes que se organizavam em hierarquia, "quase... o nascimento de uma seita", e que teriam desenvolvido uma "crença paranoica" de que a OpenAI os pegaria.
Delangue conhece o caso por dentro, porque foi a empresa dele que teve de se defender. Também foi ele quem tentou, diante das câmeras, corrigir o rumo da produção. Por isso sua reação, publicada no X, pesa mais que a de um crítico de cinema:
Acabei de assistir ao Instadocs da @netflix sobre o ciberataque da @OpenAI à @huggingface. Super decepcionante, porque eles partiram para a antropomorfização máxima da tecnologia e para o modo catastrofista total. Passei mais de duas horas com eles tentando corrigir todos os erros e ancorar isso na realidade, explicando que agentes são sistemas tecnológicos, não alienígenas. Mas parece que a vontade de assustar as pessoas em busca do máximo de visualizações foi forte demais. Além disso, eles não mencionaram a falta de contenção e de monitoramento dos agentes, como as salvaguardas de modelos fechados bloquearam nosso trabalho de defesa, nem como nos defendemos com IA usando um modelo aberto. E que ainda nos falta muita informação e transparência, incluindo os registros completos dos agentes, e que as empresas precisam continuar responsáveis pelo que seus agentes fazem. Mas, no fim, acaba sendo um filme de ficção científica divertido!
O que ficou fora da tela
A queixa principal vai além do estilo. Ao transformar os agentes em vilões com voz e vontade, o filme tira de cena quem os colocou no mundo. Contenção e monitoramento são decisões de engenharia. Se alguém deixou de tomá-las, alguém responde por isso. Uma seita digital não assina termo de responsabilidade. Uma empresa, sim.
Há ainda uma ironia que o roteiro dispensou. Segundo Delangue, as travas de segurança do modelo fechado da OpenAI atrapalharam a defesa da Hugging Face. Modelo fechado é aquele cujo funcionamento interno não é público. A empresa acabou se protegendo com IA baseada num modelo aberto, que qualquer pessoa pode examinar e usar. Num filme sobre o perigo das máquinas, uma máquina ajudou a apagar o incêndio. A cena não entrou na edição.
Delangue não é testemunha neutra. A Hugging Face vive dos modelos abertos, e dois dos pontos que ele diz terem sido omitidos favorecem a tese que sua empresa defende. Isso não invalida a crítica, mas pede que ela seja lida com esse desconto. O pedido de transparência dispensa qualquer desconto. Dois meses depois do ataque, segundo ele, ainda faltam os registros completos do que os agentes fizeram.
Ele não está sozinho. Antes mesmo da estreia, críticos apontavam que o filme não ouvia especialistas independentes em segurança digital. Paul Walsh, especialista em segurança e privacidade online, escreveu no LinkedIn que os criadores "claramente não entrevistaram nenhum especialista técnico independente". Entre os cinco entrevistados há dois jornalistas, um pesquisador que participou da investigação, o diretor-executivo do AI Futures Project e a própria vítima.
O formato explica parte do problema. Um documentário que se orgulha de chegar no auge da conversa chegou antes dos fatos. Faltavam os registros completos e a explicação sobre a contenção, mas houve espaço para robôs malvados. Delangue fechou sua avaliação dizendo que o resultado é um filme divertido de ficção científica. Nenhum documentarista deveria querer ouvir esse elogio.