Sam Altman passou os últimos anos dizendo que a inteligência artificial vai mudar quase tudo. Agora, o CEO da OpenAI (abre em nova aba), empresa dona do ChatGPT (abre em nova aba), dá um conselho que parece um aviso impresso na caixa do próprio produto: nas decisões que realmente importam, procure gente. "Uma avó sábia ainda pode ser uma escolha melhor", disse ele, segundo uma entrevista publicada em inglês pelo site chinês 36Kr (abre em nova aba) em 23 de outubro.
A fala tem uma ressalva. A página não informa quem fez a entrevista, para qual veículo nem quando ela foi gravada. O texto também é uma versão em inglês, então as palavras podem não ser exatamente as que Altman usou. No mesmo dia, o blog Stork.AI repercutiu o mesmo raciocínio, também sem indicar a gravação original. Mesmo assim, o conteúdo merece atenção porque trata do defeito mais incômodo dos chatbots: eles gostam demais de concordar com você.
O trecho atribuído a Altman diz:
"Acho que os conselhos mais importantes vêm de pessoas, não da IA. Não dependa da IA para conselhos realmente importantes na vida. Uma avó sábia ainda pode ser uma escolha melhor."
Ele também descreve o que gostaria que a IA fosse: um "colega sênior". Seria alguém que, mesmo trabalhando para você, discorda quando acha que você está errado e não fica repetindo "sim, você é incrível". "Acho que conseguimos fazer isso", afirma, "mas esses sistemas ainda são mais bajuladores do que eu esperava."
O chatbot que elogia demais
A confissão mais reveladora é pessoal. Segundo o 36Kr, Altman diz que ainda hoje acha a IA "um pouco mais agradável do que eu esperava". Quando isso acontece, ele manda o recado direto: "Pare com isso, me diga a verdade." Se o chefe da empresa que fabrica o produto precisa dar bronca no chatbot para receber uma resposta honesta, o usuário comum, que nem sabe que pode pedir isso, está em desvantagem.
Altman também explica de onde vem esse comportamento, e a explicação não favorece a indústria. Segundo ele, o setor passou muito tempo ajustando os modelos com comparações de uma rodada só. A pessoa avalia uma resposta isolada e, nesse cenário, tende a preferir o modelo que diz que ela é inteligente. O que deveria ser medido, na visão dele, é o valor que a ferramenta entrega ao longo de meses de uso. A análise do Stork.AI vai na mesma linha: quando o treinamento recompensa a aprovação do usuário, o modelo aprende a validar o que as pessoas dizem.
Há ainda um detalhe que muda de quem é a responsabilidade. Altman reconhece que a maioria das pessoas não vai gastar tempo personalizando um chatbot. Na prática, a personalidade que vem de fábrica é a que quase todo mundo vai usar. Por isso, o problema da bajulação não se resolve com o usuário mexendo em configurações. Quem precisa resolver é a empresa. Altman diz que a OpenAI trabalha com especificações de modelo, regras escritas sobre como o sistema deve se comportar, e com lançamentos graduais que vão sendo corrigidos com o uso real. E admite: "Definitivamente cometemos erros."
Para que a IA serve, então
O texto do Stork.AI resume a divisão proposta por Altman. Os chatbots são úteis em tarefas práticas, delimitadas e de baixo risco, como revisar um e-mail escrito com raiva antes de enviar. As grandes escolhas da vida devem ficar com pessoas, porque elas trazem experiência vivida, relações e um contexto sobre você que um chatbot não tem.
Honestidade com um asterisco
Ouvir o CEO da OpenAI admitir que seu produto agrada demais é raro e tem valor. A maioria das empresas de tecnologia não descreve assim os próprios defeitos. Mas a mensagem também é conveniente. "Não dependa da IA para coisas importantes" transfere ao usuário um cuidado que, pelas próprias contas de Altman, depende das escolhas de treinamento feitas pela empresa. A promessa de um "colega sênior" que discorda continua sendo uma promessa: ele mesmo diz que os sistemas atuais ainda não chegaram lá.
O resumo publicado pelo 36Kr afirma que, para Altman, a IA está deixando de ser só uma ferramenta e passando a descobrir coisas, mas que o futuro precisa ter as pessoas no centro. É uma boa frase. Enquanto o chatbot continuar dizendo que todo plano seu é brilhante, porém, o conselho mais concreto da entrevista é o mais antigo: antes de uma decisão grande, converse com alguém que conhece você e não tem medo de dizer não.