A Eagle lançou na terça-feira (20) (abre em nova aba) o EAGLE-4 (abre em nova aba), quarta geração de uma técnica que não deixa nenhum modelo de IA mais inteligente. Ela só o deixa mais rápido. Num mercado em que cada segundo de GPU vira linha de custo na planilha, rapidez é o que separa um produto viável de um rombo. O código saiu no GitHub na versão 0.1.0, e o rascunhador treinado para o Qwen3.8-27B está no Hugging Face (abre em nova aba).
Como funciona o truque
Modelos de linguagem escrevem um pedaço de palavra por vez, os chamados tokens. A família EAGLE usa um modelo pequeno, o "drafter" (rascunhador), que tenta adivinhar os próximos trechos. O modelo grande confere o palpite inteiro de uma só vez. Quando o rascunho acerta, vários tokens saem pelo preço de um. Quando erra, é descartado. Segundo o repositório, o método preserva a distribuição de saída do modelo original. A documentação de suporte (abre em nova aba), porém, ressalva que passar no teste de verificação não garante um texto idêntico, token por token, ao que o modelo geraria sozinho.
A novidade: um rascunhador para qualquer cenário
O pulo do gato, segundo a Eagle, é ter um único rascunhador por modelo que se ajusta sozinho ao volume de pedidos, ao hardware e ao tipo de tarefa. A análise técnica da fal (abre em nova aba), feita em parceria com a Fireworks, descreve o comportamento. Com um único usuário, o sistema arrisca uma árvore larga e funda de palpites. Com o servidor lotado, encolhe para poucas apostas ou para uma sequência simples, sem configurações fixas de profundidade. Faz sentido: uma máquina ociosa tem fôlego para conferir dezenas de chutes, e uma máquina atendendo centenas de pessoas não tem.
Os números que importam
No teste principal do artigo da Eagle, com o Qwen3.8-27B rodando em quatro GPUs NVIDIA B300, o EAGLE-4 superou o modo sem aceleração e duas técnicas concorrentes:
| Método | 1 requisição (tokens/s) | 512 requisições (tokens/s agregados) |
|---|---|---|
| Sem aceleração | 240,5 | 21.203 |
| DSpark | 618,6 | 14.229 |
| DFlash 2 | 672,6 | 16.641 |
| EAGLE-4 | 863,8 | 28.340 |
Com uma requisição, a velocidade chega a 3,59 vezes a do modo sem aceleração. Com 512, o ganho cai para 1,34 vez. Vale olhar a coluna da direita com atenção. Sob carga pesada, DSpark e DFlash 2 ficam mais lentos do que não usar truque nenhum. É aí que está o argumento de venda real. Acelerar uma demonstração com um usuário é fácil. O que interessa a quem paga a conta é não atrapalhar um servidor cheio.
O padrão se repete em outros testes. No Nemotron 3.5 Super VL, da NVIDIA, a Eagle informa 647 tokens/s para uma requisição (2,74 vezes) e 33.480 tokens/s agregados com 512 (1,69 vez). Um post preliminar de 15 de outubro (abre em nova aba) destacava que o ganho vinha sem alterar os pesos do modelo. Numa única GPU AMD Instinct MI350X, uma requisição sobe de 75,27 para 262,89 tokens/s (3,49 vezes), e com 32 simultâneas o ganho é de 1,70 vez. A presença da AMD pesa: técnica que só funciona bem em NVIDIA acaba virando dependência de fornecedor.
Qual é o número "oficial"?
A conta oficial da empresa no X escolheu outra cifra para a manchete do lançamento, medida com o motor TokenSpeed:
O EAGLE-4 chegou. Do EAGLE-1 ao EAGLE-3, continuamos tornando a inferência mais rápida. O EAGLE-4 é o nosso mais rápido até agora. 961,6 tokens/s no Qwen3.8-27B da @Alibaba_Qwen com TokenSpeed (BF16, 4× B300 da @NVIDIA, TP4, uma requisição, T=0). Github: https://github.com/eagle-hq/EAGLE-4
São o mesmo modelo e o mesmo tipo de máquina, com três números circulando: 863,8 no artigo, 961,6 no post e 985 tokens/s nas medições da LightSeek Foundation (abre em nova aba), que treina e serve os rascunhadores com suas ferramentas. Os 961,6 superam em apenas 1,15 vez a configuração de referência usada pela própria Eagle. A LightSeek traz ainda o dado mais sóbrio do pacote. Contra o mecanismo de previsão que o Qwen já embute, o MTP, o EAGLE-4 é de 1,28 a 1,37 vez mais rápido. Com temperatura 1, ajuste que deixa as respostas mais variadas, a velocidade cai para 750 tokens/s, porque o rascunhador acerta menos palpites. A maioria dos números da Eagle foi medida com temperatura 0, o cenário mais favorável.
O asterisco do "código aberto"
Usar a ferramenta exige mais do que um clique. O pacote eagle_harness se instala pelo pip e se conecta aos motores SGLang, vLLM e TokenSpeed. As versões padrão desses motores, no entanto, não trazem os ganchos necessários, e é preciso usar versões modificadas distribuídas pela Eagle. A imagem para ROCm, o software da AMD, ainda não foi publicada, e o suporte ao TokenSpeed é experimental. O anúncio promete funcionamento até em CPUs locais, mas nenhum número para CPU foi divulgado. O repositório também traz um contrato de licença comercial, que merece leitura antes de qualquer uso em produto.
A aposta, ainda assim, é a certa. A conversa sobre IA gira em torno de quem tem o modelo mais esperto, enquanto o dinheiro escorre pelo custo de servir cada resposta. Uma ferramenta que tira mais tokens da mesma GPU, sem trocar o modelo e sem desabar quando o tráfego aperta, ataca o problema que de fato pesa no caixa das empresas. Por enquanto, porém, todos os números vieram da Eagle ou de parceiros que publicaram junto com o lançamento. Falta alguém de fora medir com o próprio hardware, longe das quatro B300 usadas na maioria dos testes oficiais.