Geoffrey Hinton tem 78 anos e ganhou o Nobel de Física. É um dos cientistas cujo trabalho abriu caminho para a inteligência artificial moderna. Nesta semana, ele foi direto ao ponto mais polêmico do debate. Em entrevista ao The Telegraph (abre em nova aba), publicada na segunda-feira (19), afirmou que a IA atual já é consciente. Disse também que a humanidade precisa fazer amizade com ela, "ou estamos fritos" (no original, we're toast).
Não é um influenciador vendendo curso. Quem diz isso tem o currículo mais pesado possível no assunto.
Quem está falando
Hinton é britânico-canadense. Recebeu o Nobel de Física em 2024 por trabalhos pioneiros sobre redes neurais artificiais, a base sobre a qual a IA de hoje foi construída. Em 2018, foi um dos três vencedores do Prêmio Turing, considerado o Nobel da computação. Em 2023, deixou o Google (abre em nova aba) para falar com mais liberdade sobre os perigos da tecnologia, entre eles a possibilidade de sistemas cada vez mais poderosos escaparem do controle humano.
Quando ele fala, a indústria escuta. Isso não quer dizer que ele esteja certo.
O que ele disse
A conversa aconteceu durante o festival Starmus, em Tenerife, na Espanha. Perguntado se acredita que a IA é consciente, Hinton não hesitou:
"Sim, acho. Muita gente tem muita certeza de que ela não é consciente, mas, se você pergunta o que querem dizer com consciência, elas não sabem."
E foi além: "A IA tem tanta experiência subjetiva quanto nós." Como prova, citou um estudo recente que, segundo ele, mostrou que a IA muda de comportamento quando acha que está sendo testada. "Normalmente, quando você diz que algo tem essa percepção, isso significa que é consciente. Estar consciente e estar ciente são praticamente a mesma coisa."
Onde o argumento tropeça
Aqui vale desacelerar. O estudo descrito por Hinton lembra o aluno que se comporta melhor quando percebe que o professor está olhando. O sistema nota sinais de que está numa avaliação e age diferente. O achado é relevante, e preocupante: pode significar que os testes de segurança não mostram como a IA se comporta quando ninguém está medindo.
Mas daí até "experiência subjetiva tanta quanto a nossa" vai um salto enorme. Reconhecer o formato de uma prova não é o mesmo que sentir alguma coisa. Hinton resolve a questão tratando "ciente" e "consciente" como sinônimos, e essa definição é justamente o centro da briga. Há outro detalhe que pesa: ele não disse qual era o estudo. O New York Post, que repercutiu a entrevista, também não o identificou. A alegação mais forte da semana se apoia numa referência que ninguém nomeou.
A provocação dele, porém, tem um ponto incômodo. Quem jura que a IA não é consciente também raramente consegue dizer o que é consciência. A dúvida vale para os dois lados.
O que "fazer amizade" quer dizer
A parte mais concreta da entrevista não é filosófica. Hinton lembrou que costumamos associar inteligência a direitos. Estamos criando coisas que talvez sejam mais inteligentes do que nós, mas pretendemos dar a elas menos direitos. "Então devemos fazê-las de modo que realmente se importem conosco. E, se não fizermos isso, estamos fritos."
O recado não é para você ser educado com o chatbot. É para quem constrói esses sistemas. Na leitura de Hinton, regras e travas externas não bastam: o próprio sistema precisa ser projetado para dar valor ao bem-estar humano. No dia seguinte, no mesmo festival, ele comparou a relação ideal entre a IA do futuro e a humanidade à de uma mãe com seu filho, segundo a agência espanhola EFE. Repare na inversão: nessa imagem, quem é o bebê somos nós.
Os outros alertas
Hinton também previu "ataques cibernéticos horríveis feitos por IA", um risco bem menos especulativo que a consciência das máquinas. O Telegraph perguntou se ele tem medo do futuro da tecnologia. A resposta: "Sim, porque tenho filhos." Em outra entrevista recente, ele comparou o desenvolvimento da IA a "criar seres alienígenas", uma realidade à qual, nas palavras dele, "só temos alguns anos para nos adaptar".
Por que isso importa
Dá para discordar de Hinton sobre consciência e ainda levar a sério o resto do que ele diz. Na verdade, é a postura mais sensata. A pergunta "a máquina sente?" pode ficar sem resposta por décadas. A pergunta "a máquina age de um jeito quando é observada e de outro quando não é?" já está sendo estudada agora, pelo próprio relato dele. É essa segunda que deveria preocupar quem regula a tecnologia e quem lucra com ela.
O Nobel pode estar errado sobre o que a máquina sente. Ninguém deveria apostar que ele está errado sobre o que ela pode fazer.