Pular para o conteúdo
    NotíciaModelos e ferramentas

    Em vez de rodar a IA na placa de vídeo, este teste pôs uma GPU dentro do modelo

    O projeto experimental qwenGPU adiciona 45 camadas ao modelo Qwen3.5-2B para executar códigos da NVIDIA internamente com precisão matemática, sem depender de calculadoras externas.

    Placa de vídeo moderna com circuitos de silício e componentes metálicos flutuando dentro de uma estrutura tridimensional iluminada em azul e verde que simula uma rede neural.
    O projeto experimental qwenGPU integra o processamento gráfico diretamente na arquitetura do modelo Qwen3.5-2B para executar códigos internamente.
    Neste artigo

    A regra básica da inteligência artificial nos últimos anos sempre foi direta: você compra placas de vídeo gigantes, as famosas GPUs, para rodar modelos de linguagem. Nesta semana, um desenvolvedor independente conhecido como Vixhal virou essa lógica de cabeça para baixo com o lançamento experimental do qwenGPU no GitHub (abre em nova aba). Em vez de apenas usar um chip físico para processar a IA, ele compilou uma placa de vídeo virtual inteira dentro da estrutura do Qwen3.5-2B, um modelo compacto de 2 bilhões de parâmetros.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​​‌‌‌​​‌​​‌‌​​‌​​‌‌​​​‌‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​​‌‌​​​‌​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​‌‌​​‌‌​‌‌​​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌​‌​​​​‌‌​‌​​​​‌‌​‌‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​‌‌​​‌​‌​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌‌​​​​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​​​​‌‌​‌‌‌​​‌‌‌​​​​​‌‌​‌‌​​‌‌​​​‌​​​‌‌‌​​‌​‌‌​​​​‌​‌‌​​​​‌​​‌‌​​‌‌⁠

    O experimento tenta atacar uma limitação crônica da tecnologia atual. Modelos de linguagem funcionam adivinhando a próxima palavra por probabilidade, o que os torna excelentes para conversar, mas péssimos em contas exatas ou na execução rigorosa de programas sem recorrer a uma calculadora externa. A proposta de Vixhal testa o que acontece quando a computação exata ocorre dentro do próprio modelo, e não ao lado dele. Para fazer isso, ele adicionou 45 camadas projetadas por um compilador diretamente na frente das 24 camadas originais do Qwen3.5-2B, criando uma estrutura híbrida de 69 camadas que não precisou de treinamento extra para funcionar.

    Nessas 45 camadas novas, o sistema aproveita um mecanismo interno de memória do próprio Qwen3.5 (chamado Gated DeltaNet) como se fosse um banco de circuitos de computador, guardando dados, registradores e instruções de programas. O efeito prático é que, enquanto a IA processa uma resposta normal, ela consegue executar códigos reais em CUDA, a plataforma de computação das placas da NVIDIA, diretamente dentro do seu fluxo de geração de texto.

    Estrutura de rede neural translúcida com um chip de silício e microcircuitos dourados em seu núcleo, conectada por feixes de luz verde e azul em um ambiente escuro.
    O projeto experimental qwenGPU integra camadas extras ao modelo para simular o funcionamento de uma placa de vídeo internamente.

    O detalhe mais surpreendente nos dados divulgados pelo desenvolvedor é a precisão matemática. Em testes rodando em processadores da Apple, essa placa de vídeo virtual de quatro vias (4-lane SIMT) embutida na IA entregou exatamente o mesmo resultado de uma placa física real, a NVIDIA Tesla T4, em 49 de 49 programas testados. Mesmo com 45 camadas estranhas enxertadas na sua arquitetura original, que tem capacidade base para 262.144 tokens de contexto, o modelo quase não perdeu qualidade de escrita, mantendo uma variação estatística mínima (divergência KL de cerca de 0,0007) em relação à versão de fábrica.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​​‌‌‌​​‌​​‌‌​​‌​​‌‌​​​‌‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​​‌‌​​​‌​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​‌‌​​‌‌​‌‌​​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌​‌​​​​‌‌​‌​​​​‌‌​‌‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​‌‌​​‌​‌​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌‌​​​​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​​​​‌‌​‌‌‌​​‌‌‌​​​​​‌‌​‌‌​​‌‌​​​‌​​​‌‌‌​​‌​‌‌​​​​‌​‌‌​​​​‌​​‌‌​​‌‌⁠

    Há também um modo avançado em que o próprio modelo escreve o código CUDA antes de executá-lo internamente. Nessa modalidade, a IA acertou o programa na primeira tentativa em 4 de 5 perguntas, embora a documentação do projeto alerte que um modelo pequeno de 2 bilhões de parâmetros ainda não é confiável para programar sozinho. Experimentos que tentam fundir raciocínio estatístico com execução exata de código aparecem com frequência no radar do IA.com.br, e essa abordagem de esculpir máquinas virtuais direto nos pesos da rede neural começa a virar uma subcultura entre engenheiros. Nos últimos dias, outro projeto chamado nesformer seguiu o mesmo princípio ao compilar o processador de um console Nintendo clássico (NES) dentro de um modelo da família Qwen3.5.

    Por que isso ainda é só uma demonstração

    Apesar do feito técnico, ninguém vai colocar o qwenGPU para trabalhar em empresas tão cedo, e o próprio criador classifica o projeto como uma demonstração de pesquisa, não uma ferramenta de produção. Os limites atuais deixam claro o peso dessa engenharia:

    • Velocidade baixa: O sistema gera apenas de 10 a 15 tokens por segundo rodando em chips da Apple, um ritmo lento para o padrão de modelos tão pequenos.
    • Consumo pesado de memória: É necessário ter cerca de 16 GB de memória livre para rodar o experimento, que funciona em chips da Apple, placas NVIDIA ou processador comum (CPU).
    • Montagem manual: Não existe versão comprimida (quantizada) nem um pacote pronto para download; quem quiser testar precisa compilar o modelo localmente no próprio computador a partir do código aberto sob licença MIT.

    Colocar uma placa de vídeo virtual dentro de um modelo de linguagem para rodar a 10 tokens por segundo pode parecer o equivalente moderno de fazer o jogo Doom funcionar no visor de uma calculadora científica. Mas existe uma provocação séria por trás da curiosidade. Toda a indústria de tecnologia gasta bilhões tentando fazer agentes de IA acionarem ferramentas externas sem errar o caminho no meio da conversa. Se os pesquisadores descobrirem formas mais leves de compilar processadores lógicos direto nas camadas do modelo, a fronteira entre um texto gerado no palpite e um software executado com precisão absoluta pode ficar muito mais curta.⁠​‌​​‌​​‌​‌​​​​​‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌​​‌‌​​​‌​​‌‌‌​​‌​​‌‌‌‌‌​​​​‌‌‌​​‌​​‌‌​​‌​​‌‌​​​‌‌​‌‌​​​​‌​​‌‌​‌‌‌​​‌‌​‌‌‌​​‌‌​​​‌​​‌‌​‌​‌​​‌​‌‌​‌​​‌‌‌​​‌​​‌‌​​‌‌​​‌‌​‌‌​​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌​‌​​​​‌‌​‌​​​​‌‌​‌‌​​​‌‌​​​‌​​‌​‌‌​‌​​‌‌‌​​‌​‌‌​​​‌‌​‌‌​​‌​‌​‌‌​​‌‌​​​‌​‌‌​‌​​‌‌‌​​​​​‌‌‌​​‌​​‌‌​‌​‌​​‌‌​‌​​​​‌‌​‌‌‌​​‌‌‌​​​​​‌‌​‌‌​​‌‌​​​‌​​​‌‌‌​​‌​‌‌​​​​‌​‌‌​​​​‌​​‌‌​​‌‌⁠

    Foto de Leandro Vieira

    Leandro Vieira

    CEO e founder | IA.com.br

    Ver perfil completo