Todo desenvolvedor que já colocou um LLM em produção guarda as alucinações na mesma gaveta mental dos bugs: coisas que a próxima versão vai corrigir. Benjamin Lindquist (abre em nova aba), professor assistente da seção de História do MIT, propõe tirá-las dessa gaveta. Em entrevista ao MIT News (abre em nova aba) e num artigo na revista Past & Present (abre em nova aba) intitulado "The Irrational Computer: Randomness and Unreason in the History of Artificial Intelligence", ele sustenta que os pioneiros da IA injetaram aleatoriedade de propósito em algoritmos feitos para resolver problemas de forma determinística. A intenção era imitar o pensamento criativo. Nessa linhagem, ele situa a origem das alucinações atuais e conclui que existe um trade-off inevitável entre criatividade e previsibilidade.
Quero levar a tese um passo além. Se Lindquist está certo, alucinação não é um defeito com data marcada para sumir. É uma posição numa curva, e hoje quem escolhe essa posição é o modelo de negócio, não a pesquisa. Os laboratórios escolheram o lado previsível, por motivos compreensíveis. Com isso, cabe ao desenvolvedor recuperar a estranheza quando ela tem valor e separá-la do erro quando não tem.
A estranheza estava no requisito
O detalhe que mais chama atenção na reconstrução de Lindquist é quem construía as primeiras redes neurais. Segundo ele, muitas vezes eram psicólogos, e não só engenheiros. Do outro lado estava a IA simbólica, que via inteligência como manipulação de regras. Os psicólogos queriam modelar a mente como ela é, bagunçada. O campo simbólico queria uma mente que raciocinasse como deveria. Lindquist cita John Pierce, do Bell Labs, que no início dos anos 1950 escrevia sobre a matemática retirando a ordem da arte. A ideia de que o acaso podia ser um ingrediente, e não um ruído a eliminar, circulava nos laboratórios mais sérios da época.
Na página acadêmica de Lindquist, o argumento aparece mais direto. Em meados do século 20, alguns cientistas da computação concluíram que, para tornar computadores mais "humanos", era preciso torná-los um pouco menos "racionais". Nos anos 1950, esses experimentos deram origem às primeiras redes neurais "aleatórias", com o perceptron à frente, que lançaram as bases dos grandes modelos de linguagem atuais. Para os defensores dessa abordagem, uma resposta inesperada ou estranha era justamente o que se buscava. O autor tem formação em artes pela School of the Art Institute of Chicago e pela Yale School of Art antes do doutorado em Princeton, o que talvez explique a sensibilidade para o tema.
A sequência histórica tem uma ironia. Frank Rosenblatt, o psicólogo central para as redes neurais, morreu num acidente no dia do seu 43º aniversário, em 1971, quando a área já se voltava para a IA simbólica. As redes neurais sobreviveram na ciência cognitiva nos anos 1980 e, por volta de 2012, passaram a superar uma forma estatística de aprendizado de máquina. A linhagem que valorizava o estranho voltou ao centro vencendo em métricas de acerto. Essa vitória por precisão definiu o que o mercado passou a esperar dela.
O produto mudou, a matemática não
Lindquist descreve a virada de forma seca. Os primeiros entusiastas queriam respostas surpreendentes, enquanto hoje ChatGPT (abre em nova aba) ou Claude (abre em nova aba) são valorizados quando acertam na maior parte do tempo. Ele atribui a mudança a razões jurídicas e financeiras, que levam empresas como OpenAI (abre em nova aba) e Anthropic (abre em nova aba) a não querer respostas inesperadas ou criativas. A expressão que ele usa é "sanding down", lixar a estranheza.
Minha leitura é que esse é o desfecho previsível da estrutura desse mercado, e não um desvio de rota. Um assistente de propósito geral atende ao mesmo tempo centenas de milhões de usuários e departamentos jurídicos corporativos, e os custos que ele enfrenta são assimétricos. Uma citação inventada num parecer ou uma dosagem errada vira passivo, manchete e cláusula de contrato. Uma resposta brilhante e inusitada quase nunca vira receita atribuível. Quando quem assina o contrato é o jurídico, o ponto ótimo da curva fica no meio seguro.
Há ainda um problema de informação. O produto genérico não sabe quais dos seus pedidos querem divergência e quais exigem exatidão, então converge sempre. O comportamento padrão do modelo que você consome via API foi calibrado para o risco de outra empresa e para um usuário médio que não é o seu.
A advertência de Lindquist completa o raciocínio: suprimir alucinações tem outras consequências, porque há uma ligação entre conclusões surpreendentes ou criativas e erros. Se o mesmo mecanismo produz as duas coisas, lixar uma desgasta a outra.
O melhor contraponto: nem todo erro é ousadia
A objeção mais forte é que genealogia não é mecanismo. A aleatoriedade das redes dos anos 1950 e a amostragem com temperatura de um LLM moderno são coisas diferentes. Nenhuma das duas explica bem o tipo de alucinação que mais custa caro: a jurisprudência que não existe, a função de biblioteca que nunca foi escrita, o número de versão afirmado com total segurança. Isso não é criatividade. É falha de calibração, o modelo apresentando um palpite no mesmo tom de um fato. Baixar a temperatura não resolve. O que resolve é ancoragem em documentos, ferramentas e verificação. Tratar esse erro como "o preço da criatividade" pode virar um álibi conveniente para não investir nessas camadas.
Aceito a objeção, mas acho que ela refina a tese em vez de derrubá-la. O trade-off de Lindquist vale para o sistema, não para cada saída isolada. Dá para reduzir a fabricação de fatos sem matar a divergência, desde que as duas coisas sejam tratadas separadamente e de forma explícita. Um produto genérico, otimizado para não surpreender ninguém, não faz essa separação por você. Ele aplica uma pressão única sobre tudo o que soa inesperado, e o inesperado útil vai junto com o inventado.
O que muda para quem constrói
A consequência prática é tratar estranheza e confiabilidade como requisitos distintos, em etapas distintas do pipeline:
- Não peça ousadia e exatidão na mesma chamada. Gere candidatos com mais liberdade numa etapa e filtre numa etapa convergente, com recuperação de documentos, regras explícitas ou um segundo modelo configurado para ser conservador.
- Escolha domínios onde o verificador é barato. Programação tem vantagem estrutural: compilador, testes e linters checam a saída a custo baixo. Por isso a divergência rende mais em código do que em texto jurídico, onde a verificação exige um humano caro.
- Meça diversidade quando a tarefa é ideação. Se suas avaliações recompensam apenas acerto, cada ajuste de prompt repete internamente o mesmo lixamento que os laboratórios fazem nos modelos, e você nem percebe a perda.
- Trate o padrão do fornecedor como decisão de terceiros. Verifique quais parâmetros a API expõe e reavalie a cada atualização de modelo. O comportamento pode mudar porque o balanço de risco do fornecedor mudou, e não porque a tecnologia evoluiu.
O livro de Lindquist ainda não publicado, The Feeling Machine, previsto pela University of Chicago Press, aponta um padrão parecido na fala: o que os primeiros engenheiros descartavam como ruído ou erro passou a ser ouvido como parte do sinal em chatbots que falam, expressam emoção e, às vezes, erram. A fronteira entre ruído e sinal foi redesenhada antes e será redesenhada de novo, conforme o que cada época está disposta a pagar.
Na página do historiador, a tese aparece numa frase: as alucinações que hoje frustram os usuários já foram um recurso, não uma falha. A frase serve menos como absolvição e mais como lembrete de engenharia. O comportamento que chega pronto pela API foi escolhido por alguém, com base nos riscos de outra pessoa. Se o seu produto precisa de estranheza, ela não virá de fábrica. Terá de ser projetada de volta, com a mesma intenção que os psicólogos dos anos 1950 tiveram ao colocá-la ali, e com verificadores que eles não tinham.