Pular para o conteúdo
    NotíciaModelos e ferramentas

    Mirendil lança Fern 0.1, seu primeiro modelo, com contexto de 10 milhões de tokens

    A Mirendil estreou com o Fern 0.1, treinado do zero e capaz de ler até 10 milhões de tokens de uma vez. Nos testes de memória ele vai bem, mas em tarefas de programação fica bem atrás do Claude Opus 5.5.

    Torre altíssima de folhas impressas com código-fonte empilhada no centro de um galpão de concreto, iluminada por luz lateral suave de fim de tarde
    O Fern 0.1, primeiro modelo da Mirendil, consegue ler até 10 milhões de tokens de uma só vez, mas ainda fica atrás do Claude Opus 5.5 em tarefas de programação.
    Neste artigo

    Toda empresa nova de IA precisa de um número para chamar atenção. O da Mirendil (abre em nova aba) é 10 milhões. Esse é o tamanho, em tokens, da janela de contexto do Fern, o primeiro modelo da companhia, apresentado nesta semana. Pela conta da própria empresa, cabem ali cerca de 23 MB de código. Isso dá uns 500 mil linhas, o porte do Megatron-LM (abre em nova aba), um conhecido projeto para treinar grandes modelos. A empresa também compara esse volume a "dias de trabalho de um agente".

    Contexto é tudo o que o modelo consegue considerar de uma vez antes de responder, e token é um pedacinho de palavra. Quanto maior a janela, mais material dá para entregar de uma tacada só, sem picotar em partes. A promessa interessa especialmente aos agentes de IA, que trabalham por horas e vão acumulando histórico. A estreia do Fern, porém, também mostra a distância entre ter muita memória e saber usá-la.

    Feito do zero e com pressa

    O Fern 0.1 é o modelo-base da empresa, o Mirendil-Base, depois de uma "rodada curta" de pós-treinamento. Essa é a etapa que transforma um modelo que só prevê texto em algo que segue instruções. Ele foi treinado do zero, ou seja, não é a adaptação do modelo de outra empresa. Tem entre 100 bilhões e 500 bilhões de parâmetros (o número exato não foi divulgado), lê texto e código e foi pensado para tarefas de agentes em grande volume.

    Engenheiros sentados a uma mesa de escritório revisam folhas impressas com marcações, sob luz natural de fim de tarde
    Equipe da Mirendil revisa exemplos de instruções e respostas usados no pós-treinamento do Fern 0.1.

    A Mirendil promete versões novas com frequência, e há irmãos maiores no forno. O Mirendil-Base-Large, de 0,5 a 2 trilhões de parâmetros, já passou de 80% do pré-treino. O XL, de 2 a 10 trilhões, passou de 20%.

    O detalhe mais intrigante está nos bastidores. O MarkTechPost (abre em nova aba) atribui à Mirendil as seguintes informações:

    • um único pesquisador pré-treinou o modelo-base em três meses e meio;
    • o gasto com computação ficou abaixo de US$ 10 milhões;
    • agentes de IA escreveram mais de 99% do código;
    • os dados vieram só de fontes públicas, sem destilação (aprender imitando respostas de modelos maiores), sem dados sintéticos e sem conteúdo licenciado.

    Se isso se confirmar, é a parte mais importante do anúncio: um modelo treinado do zero por uma pessoa, em poucos meses, com orçamento de startup.

    Encontrar é fácil, conectar é difícil

    O principal teste de memória exibido pela empresa é o RULER, do tipo "agulha no palheiro": esconde-se uma informação num texto enorme e pede-se que o modelo a encontre ou faça algo com ela. Com 10 milhões de tokens, o Mirendil-Base tem estes resultados:

    • 100% com uma única agulha;
    • 100% ao acompanhar o valor de uma variável ao longo do texto;
    • 91% e 95% quando precisa recuperar várias chaves;
    • 51% quando precisa juntar pistas espalhadas para responder a uma pergunta (HotpotQA).

    Esse padrão vale guardar. Achar uma frase num oceano de texto o Fern consegue. Raciocinar com várias delas ao mesmo tempo, nem sempre.

    Há também um teste nos repositórios da própria Mirendil, juntados num arquivo de 42,9 MB. A métrica, chamada bits por byte, mede quanto o modelo acerta ao prever o que vem a seguir, e quanto menor, melhor. Ela cai de 0,247, com janela de 32 mil bytes, para 0,155 com 16 milhões e 23 milhões de bytes. É um sinal de que ler mais contexto realmente ajuda. Os modelos concorrentes foram avaliados só até cerca de 1 milhão de tokens, e o teste usa código da casa.

    Uma correção logo na estreia

    Na noite de 27 de outubro, a página do anúncio ganhou uma nota: as Figuras 1 e 2 foram corrigidas "para refletir com mais precisão" os resultados de treinamento. A tabela publicada pelo MarkTechPost não bate com a versão atual:

    Teste do RULER (10 milhões de tokens)Tabela do MarkTechPostPágina atual da Mirendil
    Todas as agulhas10095
    Perguntas com várias etapas4551
    Várias chaves9091

    O site também dizia que cada resultado em 10 milhões de tokens usava 20 exemplos, contra 100 nos demais. A página da Mirendil agora fala em média de 100 exemplos por célula.

    Corrigir erro é virtude. Mas números que mudam logo após o lançamento, num teste rodado pela própria empresa, são um bom motivo para esperar avaliações independentes antes de se empolgar.

    No trabalho de agente, o Claude sobra

    Na execução de tarefas de programação, justamente o uso que a Mirendil diz mirar, a comparação com o Claude Opus 5.5, da Anthropic (abre em nova aba), é dura. Estes números saem da tabela da própria Mirendil:

    Teste (taxa de aprovação)Fern 0.1Claude Opus 5.5
    DeepSWE v1.144,274,2
    Terminal Bench 4.06,166,4
    SWE Atlas QnA53,266,4
    SWE-Bench Pro v2-Hard76,5100,0
    SWE-Bench Verified73,498,2

    O caso mais gritante é o Terminal Bench 4.0, com tarefas executadas no terminal do computador: 6,1 contra 66,4. A Mirendil avisa que as notas dos concorrentes vêm de fichas técnicas, rankings ou testes que ela mesma rodou, então as condições nem sempre são idênticas. Ainda assim, a distância é grande demais para ser só diferença de metodologia.

    Quando dá para testar

    Por enquanto, não dá. A Mirendil lista o acesso como "em breve". O MarkTechPost relata apenas acesso antecipado hospedado, sem API pública, sem preço e sem pesos abertos anunciados. Resultados mais completos de contexto longo também ficaram para "em breve".

    Por ora, o Fern 0.1 funciona mais como cartão de visitas do que como produto. Ele mostra que a Mirendil sabe construir uma memória gigantesca e que tem pressa, com versões maiores a caminho. Falta provar que essa memória se traduz em trabalho bem-feito e que os números se sustentam quando medidos por outras pessoas.

    Foto de Leandro Vieira

    Leandro Vieira

    CEO e founder | IA.com.br

    Ver perfil completo