Pular para o conteúdo
    NotíciaPesquisa e ciência

    Modelo pequeno da IBM aprende a perguntar antes de responder e supera GPT-4o em teste

    Pesquisadores da IBM treinaram um modelo de 3 bilhões de parâmetros para reconhecer perguntas ambíguas e pedir esclarecimento. No teste montado pelos próprios autores, ele acertou 96,6%, contra 79,4% do GPT-4o.

    Atendente em balcão de repartição pública, entre dois manuais de normas abertos, conversa com um cidadão do outro lado do balcão sob luz natural lateral
    Diante de uma pergunta ambígua, o modelo da IBM pede esclarecimento antes de responder e supera o GPT-4o em teste elaborado pelos próprios pesquisadores
    Neste artigo

    Quem já conversou com um assistente de inteligência artificial conhece o defeito. A pergunta sai vaga e a máquina não pede esclarecimento. Escolhe uma interpretação e responde com a segurança de quem nunca errou. É parente do funcionário que jamais diz "não entendi". Três pesquisadores da IBM Research atacaram esse vício pelo lado menos vistoso, que é ensinar um modelo pequeno a perguntar "você quis dizer o quê?". No teste que eles mesmos montaram, o pequeno deixou para trás nomes muito maiores.

    O trabalho de Lihong He, Lucian Popa e Marina Danilevsky foi publicado no arXiv (abre em nova aba) em 19 de outubro. Ele trata dos sistemas de RAG, sigla em inglês para geração aumentada por recuperação. Nesse arranjo, a IA consulta um acervo de documentos antes de responder: o manual de uma empresa, as normas de um órgão público. É o motor de boa parte dos chatbots corporativos.

    Duas maneiras de não entender

    Os autores separam dois tipos de dúvida. O primeiro é o óbvio: a pergunta está mal formulada ou não faz sentido diante do que já foi dito na conversa. O segundo é mais traiçoeiro. A pergunta parece impecável, mas o sistema vai aos documentos e encontra mais de uma resposta legítima. Imagine alguém que pergunta pelo "prazo" a um arquivo com três prazos diferentes. A pergunta é clara para quem a fez e ambígua para o arquivo.

    Pasta de arquivo aberta sobre balcão de escritório, com páginas de contrato em que três prazos diferentes aparecem marcados a caneta amarela, sob luz natural lateral
    Diante de informações ambíguas, como prazos conflitantes, o modelo da IBM foi treinado para pedir esclarecimento antes de responder.

    Para treinar a máquina nessa distinção, o grupo montou o ClariEdge (abre em nova aba), com 3.892 exemplos de conversas em quatro áreas: verbetes da Wikipédia, computação em nuvem, finanças e governo. Só 1.071 deles trazem ambiguidade real. Os demais são exemplos de perguntas que dispensam esclarecimento.

    O pequeno contra os grandes

    A técnica é o LoRA, um ajuste leve que ensina uma tarefa nova a um modelo já pronto sem retreiná-lo inteiro. Funciona como um curso intensivo, em vez de uma faculdade nova. Aplicado ao Granite-4.1-3B, modelo da própria IBM com 3 bilhões de parâmetros (medida grosseira de tamanho), o ajuste acertou 96,6% das vezes ao decidir se uma pergunta precisava ou não de esclarecimento. Os concorrentes receberam apenas instruções por escrito, sem treino específico.

    ModeloComo foi usadoAcerto geral
    Granite-4.1-3Bcom ajuste LoRA96,6%
    Granite-4.0-microcom ajuste LoRA92,4%
    GPT-OSS-20Bcom ajuste LoRA90,1%
    GPT-4osó instruções79,4%
    GPT-OSS-120Bsó instruções78,9%
    Granite-4.1-30Bsó instruções76,2%
    GPT-5.6 Solsó instruções73,1%
    Granite-4.1-3Bsó instruções64,8%

    Duas linhas da tabela dizem mais que o placar. O mesmo Granite de 3 bilhões, sem o curso, fica em 64,8%. O ganho de 32 pontos vem da lição, não do aluno. E o GPT-5.6 Sol termina atrás do GPT-4o. Para essa tarefa, três bilhões de parâmetros bem ensinados valeram mais que 120 bilhões apenas orientados.

    A arte de ficar calado

    O ponto mais interessante do estudo é a receita. Os autores incluíram 821 exemplos chamados de "negativos difíceis": perguntas com cara de ambíguas que o próprio contexto da conversa resolve. Segundo eles, esse material é ingrediente essencial. Faz sentido, porque um assistente que pede esclarecimento a cada frase é tão inútil quanto um que nunca pede. Nesse grupo, o Granite ajustado acertou 96,2%. Seu ponto mais fraco está justamente nos casos de ambiguidade real, com 91,3%.

    O mesmo ajuste serve em dois momentos. Antes da busca nos documentos, acertou 93%. Depois dela, 100%. Na prática, são duas barreiras que a resposta precisa atravessar antes de chegar ao usuário.

    Onde o entusiasmo deve parar

    O teste pertence à casa e é pequeno. São 383 exemplos, dos quais 104 genuinamente ambíguos. O confronto opõe um especialista treinado no formato da prova a generalistas que só leram o enunciado. Isso prova o valor do treino. Não prova que os gigantes sejam piores.

    Há também uma divergência. A IBM já havia publicado os adaptadores em 5 de maio, sob a licença aberta Apache 2.0, no cartão do modelo no Hugging Face (abre em nova aba). Ali, a mesma combinação aparece com 96,1%, e não 96,6%. A diferença é pequena, mas números de um único estudo pedem cuidado. O cartão informa ainda que os dados de treino são proprietários, produzidos por anotadores humanos contratados por uma empresa terceira. Parte das perguntas de teste foi gerada por um modelo da Mistral e validada por pessoas. Tudo está em inglês. Nada indica, por ora, versão em português.

    O mesmo cartão traz um detalhe saboroso. Com o mesmo ajuste, o Granite de 30 bilhões chega a 94,4%, abaixo do irmão de 3 bilhões. Sem ajuste, o de 8 bilhões fica em 47,5%. Tamanho, aqui, não decide a parada.

    A indústria costuma medir progresso em bilhões de parâmetros. Este trabalho sugere que parte do problema é pedagógica. Para a empresa brasileira que monta um atendente virtual sobre os próprios documentos, a lição útil não é a marca do modelo. É instalar um ponto de controle que saiba a hora de perguntar e, sobretudo, a hora de não perguntar.

    Foto de Leandro Vieira

    Leandro Vieira

    CEO e founder | IA.com.br

    Ver perfil completo