Nvidia abre seus novos modelos de IA e leva versão comprimida para máquinas de 24 GB

A Nvidia ganha a vida vendendo os chips e os computadores em que a inteligência artificial roda. Em 15 de outubro, colocou na praça algo que não sai de linha de montagem nenhuma: modelos de IA abertos, com pesos, conjuntos de dados e receitas de treinamento liberados para quem quiser baixar, estudar e adaptar.

O principal deles é o Nemotron 3.5 Super VL (abre em nova aba), um modelo de 120 bilhões de parâmetros voltado a agentes de IA que ficam ligados o tempo todo. Com ele vieram dois irmãos menores, da linha Bolt, feitos para rodar fora dos grandes centros de dados: um cabe em 24 GB de memória, o outro em 4 GB. O Super VL e o Bolt de 24 GB já estão disponíveis. O de 4 GB tem estreia marcada para 23 de outubro, segundo a empresa, que aponta como canais de acesso o Hugging Face, o OpenRouter, o ModelScope e o NIM, formato de distribuição da própria Nvidia.

Abrir os pesos é o que dá peso ao anúncio. Pesos, ou parâmetros, são os números que o modelo ajusta durante o treinamento. É neles que fica guardado o que ele aprendeu, e é a quantidade deles que se conta em bilhões. Com esses números em mãos, uma empresa pode instalar o modelo nos próprios servidores e retreiná-lo com dados internos, algo que os grandes modelos fechados não permitem. Segundo o site especializado The Decoder, é justamente esse o argumento da Nvidia diante deles.

Três modelos, três escalas

Agente, no vocabulário do setor, é um programa de IA que cumpre tarefas de várias etapas por conta própria: consulta uma ferramenta, lê um documento, decide o passo seguinte. O Super VL foi desenhado para agentes especializados, aqueles que fazem um trabalho específico dentro de uma empresa. O blog técnico da Nvidia (abre em nova aba) descreve um modelo que junta raciocínio, cumprimento de instruções, uso de ferramentas e leitura de texto, imagens, documentos e vídeo. É o que se chama de modelo multimodal.

Mesmo grande, ele não usa os 120 bilhões de parâmetros de uma vez. A arquitetura, chamada mistura de especialistas (mixture of experts), divide o modelo em blocos especializados e aciona só 12 bilhões de parâmetros para cada token, o pedaço de texto processado por vez. O tamanho total continua lá. O que encolhe é o trabalho a cada passo.

O que a Nvidia afirma sobre desempenho

Os números a seguir são da própria Nvidia, obtidos em plataformas e cargas de trabalho escolhidas por ela:

• precisão em tarefas de agente com múltiplos formatos comparável à do maior modelo de raciocínio da empresa, com cerca de um quinto dos parâmetros;
• o título de modelo aberto de agente mais rápido da categoria, cinco vezes à frente do segundo colocado, e, no ranking Artificial Analysis Intelligence Index, vazão (volume de texto gerado por segundo) até cinco vezes maior que a de modelos do mesmo porte;
• 51,78% no SWE-bench Pro, um teste com tarefas de programação, acima do antecessor Nemotron 3 Ultra, usando cerca de 4,6 vezes menos parâmetros ativos;
• até 4.856 tokens por segundo em um único chip GB200, mantendo ao menos 50 tokens por segundo para cada usuário numa tarefa de agente com 20 rodadas de interação.

O treinamento consumiu cerca de 26 trilhões de tokens, somando o pré-treino (a fase em que o modelo absorve grandes volumes de dados) e sua continuação, e terminou com um ajuste feito com aproximadamente 3,8 milhões de exemplos. O desenvolvimento contou com a Nemotron Coalition, grupo que reúne Mistral AI, Thinking Machines Lab, Perplexity e Black Forest Labs, de acordo com o The Decoder. A página de pesquisa do modelo (abre em nova aba) também apresenta uma versão comprimida no formato NVFP4, que grava cada número em 4 bits. Segundo a empresa, ela conserva, na mediana de 36 testes, 99,62% da precisão da versão completa.

Os números de clientes pedem ainda mais cuidado. A Nvidia cita Scale AI, Ramp e AI21 entre as organizações que já fizeram pós-treinamento do Super VL, isto é, que o retreinaram para tarefas próprias. No resumo da página técnica, os ganhos aparecem como custo de execução 40 vezes menor, latência (o tempo até a resposta) 10 vezes menor e precisão 40% maior. No corpo do mesmo texto, o caso detalhado é o da Scale AI, que adaptou o modelo para processar créditos de fornecedores na Skydance, e ali a previsão é de custo 40 vezes menor e latência 5 vezes menor, não 10. A formulação no futuro indica uma projeção, descrita pela Nvidia e sem auditoria independente.

De 120 bilhões para 24 GB

O Bolt 74B-A9B nasceu do Super VL. O nome traz a conta: 74 bilhões de parâmetros no total, 9 bilhões ativos a cada token. Segundo a página de pesquisa do Bolt (abre em nova aba), os experimentos da Nvidia mostraram que comprimir um modelo grande até caber em 24 GB dava resultado melhor do que treinar um pequeno do zero. Uma das reportagens sobre o lançamento chegou a se referir a ele como versão "64B", mas o nome oficial indica 74 bilhões.

A compressão se apoia na quantização, técnica que reduz a quantidade de bits usada para guardar cada número do modelo. A versão completa, que a Nvidia também publicou, usa o formato BF16, de 16 bits por número. Nos blocos especialistas do Bolt, esse espaço caiu para cerca de 2 bits (2,0625, para ser exato). Para compensar a perda de precisão, a empresa aplicou uma destilação, etapa em que a versão comprimida é treinada para reproduzir o comportamento da original.

A meta declarada era gerar pelo menos 80 tokens por segundo. Com um modelo auxiliar de "rascunho", que adianta palavras prováveis para o modelo principal apenas confirmar, a Nvidia diz ter chegado a 84 tokens por segundo no teste AIPerf SPEED-Bench, rodando num RTX Spark. Parece marca de liderança, até a tabela da própria empresa entrar na conversa. Na versão do teste dedicada a programação, o Bolt registra 83,99 tokens por segundo, enquanto as linhas de comparação, que incluem o Qwen3.8 27B, aparecem com 96,63, 100,56 e 28,26. Há, portanto, concorrentes mais rápidos na mesma lista.

A proposta do Bolt, vista assim, é outra: equilibrar inteligência e velocidade por GB de memória, que é exatamente como a Nvidia o descreve. Em capacidade, a empresa afirma que ele lidera entre os modelos abertos da categoria no PinchBench e fica em segundo no BrowseComp, dois testes de desempenho. O pacote inclui o modelo de rascunho, a versão completa em BF16 e uma versão em GGUF, formato de arquivo comum para rodar modelos em computadores pessoais. A versão comprimida foi otimizada para dois programas que executam modelos: o llama.cpp, no RTX Spark, e o vLLM, no DGX Spark.

O caçula, Bolt E4B, ocupa 4 GB e mira agentes de conversa rápidos. O The Decoder o descreve como uma versão para assistentes de voz.

Receita aberta, forno da casa

Por que uma vendedora de hardware distribuiria seus modelos? Para o analista Alexander Harrowell, da consultoria Omdia, ouvido pelo TechTarget, a Nvidia faz isso "para sustentar o ecossistema mais amplo em torno de suas GPUs", os processadores gráficos que viraram o motor do treinamento e da execução de IA. O momento ajuda a entender o movimento: grandes clientes da empresa desenvolvem chips próprios, como as TPUs do Google, o Trainium da Amazon e o Jalapeño, da OpenAI, lembra o analista.

O The Decoder segue a mesma linha, com uma leitura própria. Para o site, tudo vem otimizado para o hardware da Nvidia, e modelos abertos aumentam a procura pela capacidade de computação da empresa, enquanto Meta, Google, Anthropic e OpenAI constroem seus chips. É como uma receita publicada com tempo e temperatura calibrados no forno de quem a escreveu: qualquer um pode copiar, mas o ponto foi acertado num equipamento específico. A lista de plataformas testadas combina com essa leitura. O Super VL foi validado nos chips A100, H100, B200, GB200 e GB300, além de DGX Spark, DGX Station e placas RTX, todos da marca, e a personalização passa pelo NeMo, ferramenta da própria Nvidia.

A disputa mais imediata parece ser com outros modelos abertos. Harrowell conta que já há quem fale em trocar o Qwen 3.6 35B, da Alibaba, pelo Nemotron Bolt. A família, aliás, vinha sendo montada em degraus: o Nemotron 3.5 Lightning, modelo só de texto com 30 bilhões de parâmetros (3 bilhões ativos), saiu em agosto, segundo o TechTarget, e a página de pesquisa que o detalha junto com o Super tem data de 14 de outubro.

O próprio TechTarget trata a execução local, em PCs e em equipamentos compartilhados como o DGX Spark, como uma questão ainda aberta no setor. E ela é concreta: se um agente capaz de tarefas de várias etapas passa a caber em 24 GB de memória, quantas empresas vão preferir mantê-lo dentro de casa em vez de alugar capacidade na nuvem?

Perguntas frequentes