O pesadelo clássico da inteligência artificial tem máquinas rebeldes e um computador que decide acabar com a humanidade. Um grupo de pesquisadores acha que o perigo é mais prosaico e, por isso mesmo, mais difícil de deter. Ninguém vai tomar o poder das pessoas. Elas vão entregá-lo, uma tarefa de cada vez, porque é mais cômodo. O fenômeno tem nome, "desempoderamento gradual", e ganhou nesta semana uma reportagem da CBS News (abre em nova aba), assinada por Shaun Raviv, bolsista financiado pelo Tarbell Center for AI Journalism, com repercussão no site Futurism (abre em nova aba).
O roteiro já está em curso. Estudantes entregam a lição de casa ao ChatGPT (abre em nova aba), programadores pedem ao Claude (abre em nova aba) que escreva código, e o público comum começa a provar os agentes, assistentes que executam tarefas por conta própria, com o lançamento do Muse, da Meta, que o Futurism chamou de "fofinho". Segundo os pesquisadores ouvidos pela CBS, essa trilha pode terminar num ser humano reduzido a "aprovador" sem reflexão das decisões de um robô. Seria um recipiente vazio, à espera de ordens.
Uma tese sem vilão
O conceito nasceu de um estudo (abre em nova aba) publicado no início de 2025 por seis pesquisadores. Entre eles estão Jan Kulveit, do Centro de Estudos Teóricos da Universidade Carlos e cofundador do ACS Research Group, David Krueger, do instituto Mila, da Universidade de Montreal, e David Duvenaud, da Universidade de Toronto. O que diferencia o argumento é a ausência de um vilão. Não há IA conspirando nem empresa tramando golpe. "Não precisa surgir de um plano deliberado ou de uma tomada de poder pelos sistemas de IA", escreveu Kulveit. No curto prazo, diz ele, o processo é empurrado pelo valor que se enxerga na IA para funções econômicas, culturais e do Estado.
A engrenagem é de uma simplicidade incômoda. Economias, governos e culturas funcionaram razoavelmente a favor das pessoas porque dependiam delas: precisavam de trabalhadores, de contribuintes, de artistas e de público. Quando máquinas mais competitivas ocuparem esses lugares no trabalho, nas decisões, na criação artística e até na companhia, as instituições perderiam o motivo para cuidar do bem-estar humano.
Kulveit levou o raciocínio à política, onde ele morde. Os Estados precisam de cidadãos para cobrar impostos e formar exércitos. "Se, ou quando, os Estados existentes não precisarem de seus cidadãos, eles terão menos probabilidade de ser democráticos", disse à CBS. É a frase mais grave da reportagem. Nessa leitura, a democracia é também um contrato de dependência mútua, e contratos assim costumam ser rasgados pela parte que deixa de precisar da outra.
O aprovador que não sabe consertar
Margaret Mitchell, cientista de pesquisa da Hugging Face (abre em nova aba), trouxe o problema para o cotidiano. Quem deixa de praticar as habilidades que um agente executa perde essas habilidades e passa a depender dele. Quando algo der errado, "não há nenhum humano a quem se possa apontar que saiba consertar". Não é ficção científica. É o motorista que só chega ao destino com o GPS ligado, multiplicado por todas as profissões.
Jay Chooi, fundador e presidente-executivo da Robocurve, empresa que mede as capacidades de robôs movidos a IA, disse que põe o desempoderamento gradual "no topo da lista" de suas preocupações e o chamou de "problema em escala civilizacional". Ele também explicou por que o assunto paralisa: "Muita gente se sente muito impotente, porque resolver isso exige muito esforço e uma abordagem da sociedade inteira."
O diagnóstico é melhor que o remédio
Os próprios autores admitem a fragilidade do tratamento. No site do estudo, afirmam que "ninguém tem um plano concreto e plausível para deter o desempoderamento gradual". Dizem também que os métodos para alinhar cada sistema de IA às intenções de quem o projetou "não são suficientes". Em português simples, uma IA perfeitamente obediente não resolve nada, porque o perigo não vem de uma máquina que desobedece. Vem da soma de milhões de decisões razoáveis. Como a perda de poder seria global e permanente, e o florescimento humano exige muitos recursos, eles escrevem que o processo "poderia plausivelmente levar à extinção humana ou a desfechos semelhantes".
É sensato desconfiar de profecias de extinção. Mas o argumento não depende do apocalipse para ser levado a sério. Basta a parte que já está à vista, a do aluno que não escreve e do profissional que assina o que não leu.
Kulveit também mexeu numa crença confortável de quem tem dinheiro. Em texto publicado no X em 19 de outubro, véspera da reportagem, ele contestou a ideia de que patrimônio funciona como abrigo. O mecanismo que descreve é antigo: em torno de um bilionário, cresce o número de pessoas cujo objetivo é fazê-lo acreditar ou fazer alguma coisa, como financiar, investir ou doar. Manter os próprios valores e o juízo limpo nesse cerco é difícil.
Ser dono de capital vai te enlouquecer primeiro. Quem se preocupa com uma "subclasse permanente" costuma supor que possuir capital vai protegê-lo do desempoderamento, ou ao menos que será desempoderado por último, depois das massas desempregadas que dependem de renda básica universal. Acho que outra coisa é mais provável: possuir grandes quantidades de capital vai te desempoderar mais cedo que a média, só que por outro caminho, a saber, enlouquecendo.
Para quem está começando a usar esses assistentes, a lição prática vem da fala de Mitchell: habilidade que não se pratica se perde. Usar a IA não é o problema. O problema é deixar de saber fazer o que ela faz. O desempoderamento gradual não chega com tanque nem decreto. Chega com um botão de "aprovar", clicado por alguém que já não sabe dizer por que está clicando.