Quando você paga caro para usar o modelo de inteligência artificial mais inteligente da prateleira, como sabe que a empresa não entregou a resposta usando uma versão mais barata e limitada só para economizar energia? A resposta curta hoje é simples: você não sabe. Na terça-feira (3), pesquisadores da Anthropic (abre em nova aba) revelaram um protótipo de código aberto chamado FlashProve, desenhado exatamente para impedir esse tipo de trapaça, mesmo quando o impostor é o próprio laboratório que construiu e opera o sistema.
O fato de uma empresa de IA precisar criar uma coleira matemática para o próprio setor diz muito sobre os incentivos financeiros atuais do Vale do Silício. Rodar modelos gigantescos custa uma fortuna em servidores, o que cria duas tentações óbvias nos bastidores. Uma companhia pode trocar silenciosamente um modelo avançado por um mais simples no dia a dia para cortar custos, ou fazer o inverso: infiltrar um sistema caríssimo e superpotente em testes públicos para inflar suas notas de desempenho e parecer melhor que a concorrência.
Para fechar essa brecha, o FlashProve funciona de um jeito parecido com os selos criptográficos de e-mail que garantem que uma mensagem na sua caixa de entrada veio mesmo do remetente anunciado. A ideia é que cada laboratório publique uma espécie de impressão digital de cada modelo lançado. A partir daí, qualquer pessoa conseguiria verificar direto no próprio computador ou celular, por meio de uma prova matemática leve, se aquele texto ou linha de código saiu de fato do cérebro digital prometido.
O pulo do gato comercial está no que essa impressão digital esconde. Empresas de modelos fechados, como a própria Anthropic e a OpenAI (abre em nova aba), guardam a sete chaves os chamados pesos do modelo (os números internos que definem como a IA se comporta e que representam seu ativo mais valioso). Usando criptografia de conhecimento zero, o protótipo consegue atestar a identidade do sistema sem revelar um único detalhe dessa receita secreta. Nos testes de demonstração usando apenas um chip H100, a ferramenta gerou provas para um modelo robusto de 400 bilhões de parâmetros a uma velocidade de aproximadamente 110 fragmentos de palavras (tokens) por segundo.
O sistema também mira um segundo problema que já virou rotina no mundo corporativo: o blefe de terceiros. Hoje, qualquer desenvolvedor pode jurar que seu aplicativo passou pelo crivo de uma IA de cibersegurança de ponta para caçar falhas, assim como uma empresa pode vender um plano de negócios alegando que ele recebeu o aval do modelo mais avançado do mercado. Aqui no IA.com.br, acompanhamos como essa caixa-preta facilita promessas exageradas de fornecedores que ninguém consegue auditar na prática. Com a verificação proposta pelos pesquisadores, o cliente poderia checar o recibo matemático da tarefa antes de assinar o contrato.
Mas é aqui que entra a clássica ironia das gigantes de tecnologia. Apesar de ter liberado o código funcional e as especificações técnicas gratuitamente no GitHub (abre em nova aba) para que outros programadores ajudem a aprimorar o projeto, a Anthropic deixou claro que a pesquisa está em andamento e que não há nenhum plano para colocar o FlashProve em uso nos seus produtos ou em qualquer outro laboratório. Enquanto a dona do Claude já aplica marcas d'água convencionais em seus textos desde agosto para cumprir exigências legais da União Europeia, a ferramenta capaz de provar que as próprias criadoras de IA não estão passando a perna no usuário continua sendo apenas um ótimo experimento acadêmico, esperando alguém ter a coragem comercial de ligá-la na tomada.