AI gateways em 2026: comparativo de preços, licenças e governança antes de escolher

Todo time que coloca dois ou três provedores de modelo no mesmo produto descobre rápido que o problema não é chamar a API. É reapelar quando um provedor cai, explicar a fatura que veio com número aleatório, rastrear qual squad estourou o teto de gastos e decidir se aquele prompt com dado de cliente pode seguir para o log do fornecedor. É exatamente nesse ponto que entra o AI gateway.

Um AI gateway é uma camada de controle entre suas aplicações e os provedores de modelo. Ele centraliza roteamento, tentativas de repetição, failover, cache, orçamentos e logs. O ranking publicado pela MarkTechPost em 14 de outubro de 2026 define o conceito nesses termos e compara nove produtos. Seu aplicativo continua falando uma API compatível com OpenAI; quem muda de provedor por trás é o gateway, como um porteiro bem treinado que anota tudo que entra e sai.

A escolha, porém, não é um ranking pronto para copiar. Cada gateway cobra de um jeito, licencia de um jeito e limita a implantação de um jeito. Este guia organiza os critérios, mostra o que a documentação oficial de cada produto confirma, aponta onde os números dependem de quem os publicou e descreve um processo de avaliação que sua equipe consegue executar e conferir.

Os critérios que separam marketing de decisão

O ranking da MarkTechPost (abre em nova aba) pondera seis critérios de produção, e eles valem como estrutura de avaliação mesmo para quem não vai seguir a ordem final do ranking.

• Overhead publicado e como foi medido. Latência adicionada pelo gateway na frente do provedor.
• Cobertura de modelos e provedores. Quantos fornecedores atrás de uma única API compatível com OpenAI.
• Governança. Chaves virtuais, orçamentos, controle de acesso por papel (RBAC), logs de auditoria e guardrails.
• Implantação. Self-hosted, dentro da sua VPC, air-gapped ou apenas gerenciado pelo fornecedor.
• Modelo de custo. Markup, taxa de plataforma, limites do plano gratuito.
• Risco de fornecedor e de cadeia de suprimentos. Quem controla o código, quem comprou quem e se houve incidentes de segurança.

O último critério não é teórico. A MarkTechPost registra que a Palo Alto Networks concluiu a aquisição da Portkey em 29 de maio de 2026, que a Mintlify comprou a Helicone, agora em modo de manutenção, e que o LiteLLM sofreu um comprometimento de cadeia de suprimentos no PyPI em março de 2026. Nenhuma dessas notícias invalida os produtos, mas as três mudam o risco de adotar cada um, e um comparativo que ignora isso está incompleto.

Panorama de 2026: quem é quem entre os nove

Antes de mergulhar nos números, um mapa. A tabela reúne o que o ranking e as páginas oficiais declaram sobre cada produto. Preços estão em dólar porque as fontes primárias os publicam assim.

Duas divergências do ranking merecem destaque porque mudam a leitura dos números. O repositório do Bifrost (abre em nova aba) afirma compatibilidade com 10 mil modelos e overhead inferior a 200 µs a 5 mil RPS, enquanto o ranking atribui ao projeto 23 provedores e 11 µs no mesmo cenário. Os dois números convivem porque medem coisas diferentes, provedores contra modelos, e o ranking explicitlya que pegou os 11 µs do README em uma instância t3.xlarge (em uma t3.medium, o README informa 59 µs). São alegações do próprio fornecedor, não medições independentes.

A segunda divergência é a latência da Portkey, declarada como inferior a 1 ms, contra os 8 ms de P95 a 1 mil RPS atribuídos ao LiteLLM e o sub-3 ms interno que a TrueFoundry (abre em nova aba) reivindica em escala enterprise. Cada número nasceu de metodologia distinta, e o próprio ranking recomenda tratar benchmarks de fornecedor como alegações. Qualquer comparação honesta termina com a mesma instrução: meça no seu tráfego, não no do README.

Licenças e implantação: onde o código mora e quem controla

Licença e forma de implantação costumam decidir a escolha antes de qualquer benchmark. Um gateway MIT ou Apache 2.0 que roda dentro da sua VPC permite que dados sensíveis nunca atravessem a infraestrutura de terceiros. Um gateway gerenciado troca esse controle por operação reduzida.

Entre os open source, o Bifrost se apresenta como gateway de LLM, MCP e agentes, com uma única API compatível com OpenAI, failover, balanceamento de carga, cache semântico, chaves virtuais e orçamentos. A Portkey mantém o gateway sob licença MIT e oferece as variantes self-hosted, gerenciada e nuvem privada. O LiteLLM combina código aberto com licença comercial, cobrindo mais de 100 provedores segundo o ranking.

Na ponta gerenciada, o Cloudflare AI Gateway está disponível em todos os planos da plataforma segundo sua documentação de preços (abre em nova aba), atualizada em 15 de outubro de 2026. O Vercel e o OpenRouter operam no mesmo modelo, sem self-host, o que é uma restrição material para quem tem exigência de residência de dados. A TrueFoundry se posiciona no extremo oposto, com implantação em VPC, on-prem, híbrida e air-gapped, e compatibilidade declarada com servidores de modelos self-hosted como vLLM, SGLang, KServe e Triton, servindo modelos como LLaMA e Mistral.

Preços: onde o custo aparece de verdade

Aqui está o detalhe banal que muda a interpretação de toda fatura. Quase nenhum gateway cobra por requisição. A taxa, quando existe, incide na compra de créditos, e o preço de inferência é repassado pelo preço de lista do provedor. Isso significa que o custo real é preço de lista mais a taxa do gateway, e a taxa só aparece quando você recarrega.

O Cloudflare cobra 5% sobre créditos adquiridos pelo Unified Billing, de modo que uma compra de US$ 100 gera cobrança de US$ 105, segundo a documentação oficial, que também afirma repassar a inferência sem markup. Logpush é faturado à parte, sob sua própria tabela de preços.

O OpenRouter (abre em nova aba) cobra 5,5% no plano Standard e 8% no Business sobre os créditos comprados, com inferência pelo preço de lista em todos os planos. O BYOK, ou seja, usar suas próprias chaves de provedor, é gratuito até US$ 25 mil de inferência mensal a preço de lista, passando a 5% acima disso. O FAQ da empresa informa que tentativas falhas não são cobradas nos tokens do modelo, então fallbacks só custam quando a execução bem-sucedida acontece.

A Vercel (abre em nova aba) declara markup zero, inclusive com BYOK, e um plano gratuito de US$ 5 por mês com um subconjunto de modelos. Detalhe fino: comprar créditos move o time para o plano pago e o crédito mensal gratuito deixa de valer. Os adicionais são cobrados à parte, como Custom Reporting a US$ 0,075 por mil escritas de tag e US$ 5 por mil consultas, allowlist de provedores a US$ 0,10 por mil requisições bem-sucedidas nos planos Pro e Enterprise, Zero Data Retention a US$ 0,10 por mil requisições e Trace Drains a US$ 0,05 por mil traces mais US$ 0,50 por GB de saída.

O free tier tem armadilhas próprias. No Vercel, exceder o limite gratuito retorna erro 429. No OpenRouter, o plano Free limita modelos gratuitos a 20 requisições por minuto e 50 por dia, com o teto subindo para mil por dia após ao menos US$ 10 em créditos acumulados. A TrueFoundry oferece as primeiras 30 mil requisições mensais de graça, com os 1.600 modelos declarados e até 3 assentos, sem cartão, mas não publica tabela de preços paga. O Bifrost, como OSS, é gratuito em si; o custo é a infraestrutura e o trabalho de operar.

Governança: chaves virtuais, orçamentos e guardrails

Governança é o que separa um gateway de um simples proxy. O pacote mínimo que as documentações descrevem inclui chaves virtuais, que substituem as credenciais dos provedores e permitem revogar acesso por equipe ou aplicação; orçamentos e quotas, por usuário, serviço ou token; logs de auditoria; e guardrails que avaliam prompts e respostas.

O Cloudflare documenta duas camadas interessantes. A varredura de DLP, detecção de vazamento de dados, é gratuita em todos os planos, e contas sem assinatura Zero Trust recebem dois perfis predefinidos, um para informações financeiras e outro para números de identificação social, seguro e nacional. Guardrails avaliam prompts e respostas com o modelo @cf/meta/llama-guard-3-8b no Workers AI e são faturados como inferência por token, então o custo cresce com o tamanho do prompt e da resposta. (Mais um custo que não aparece na tabela do gateway, e sim na fatura de inferência.)

A TrueFoundry lista rate limits por usuário, serviço ou endpoint, quotas por custo ou token, RBAC, OAuth2 nas chamadas de ferramentas MCP, filtragem de PII e detecção de toxicidade, além de declarações de conformidade SOC 2, HIPAA e GDPR. O OpenRouter afirma no FAQ que não treina com dados de clientes e oferece roteamento com política de dados nos planos pagos. A Vercel cobra o Zero Data Retention como adicional.

Sobre conformidade, um alerta para equipes que operam no Brasil: as certificações documentadas nessas páginas são SOC 2, HIPAA e GDPR. Nenhuma das fontes primárias consulta declara aderência específica à LGPD, e a equivalência entre regimes de proteção de dados é uma análise jurídica, não uma consequência automática do GDPR. Se seu caso envolve dados pessoais de brasileiros, essa verificação cabe ao seu jurídico antes da contratação.

Pré-requisitos para escolher e implantar

Passo a passo: do critério ao gateway em produção

1. Feche o inventário e elimine candidatos incompatíveis

Liste provedores, modelos e requisitos de implantação em uma tabela simples. Se air-gapped é obrigatório, o gerenciados saem na hora; se operar sem infraestrutura própria é obrigatório, o self-hosted saem. Sinal de sucesso: uma lista com no máximo três candidatos, cada um compatível com seu requisito de implantação.

2. Levante o gateway atrás de um endpoint compatível com OpenAI

Todos os produtos comparados expõem API compatível com OpenAI, então o teste de fumaça é trocar a URL base. O padrão é este:

from openai import OpenAI

# Troque base_url pelo endpoint do gateway escolhido na documentação oficial
client = OpenAI(
    base_url="https://SEU-GATEWAY/v1",
    api_key="SUA-CHAVE-VIRTUAL",
)

resp = client.chat.completions.create(
    model="nome-do-modelo-no-gateway",
    messages=[{"role": "user", "content": "Responda apenas: ok"}],
    max_tokens=10,
)
print(resp.choices[0].message.content)

Sinal de sucesso: uma resposta válida com o model que você nomeou, mesmo que o roteamento real aconteça em outro provedor. Se a chamada falha, o problema está na configuração, e você descobre agora, não em produção.

3. Meça o overhead no seu tráfego, com seu hardware

Ignore o número do README nesta etapa. Rode um teste de carga representativo com e sem o gateway no caminho e calcule a diferença de P95. Ferramentas de teste de carga comuns servem; o que importa é manter o modelo e o tamanho de prompt idênticos nas duas medições. Sinal de sucesso: um número de P95 que a sua equipe mediu, registrado com data, hardware e metodologia.

4. Configure chaves virtuais e orçamentos antes do primeiro usuário real

Crie uma chave virtual por aplicação, nunca uma global, e atribua um orçamento pequeno a cada uma. Sinal de sucesso: uma requisição que estoura o orçamento da chave recebe erro de limite, e o resto das aplicações continua funcionando.

5. Ative logs, cache e guardrails conforme a política da empresa

Defina o que pode ser registrado, ative o cache quando fizer sentido (cache semântico está entre os recursos declarados do Bifrost) e configure guardrails ou DLP se o seu dado for sensível. No Cloudflare, confirme em qual regime de log a sua conta está, porque contas que criaram o primeiro gateway a partir de 24 de setembro de 2026 armazenam logs no Workers Logs, com preços e retenção próprios, enquanto contas anteriores seguem o legado, com teto de 100 mil logs no plano gratuito e 10 milhões por gateway no pago. Sinal de sucesso: um prompt de teste aparece no painel com metadados de custo, modelo e latência.

6. Teste o failover com falha induzida

Configure dois provedores para o mesmo modelo com fallback. Derrube a rota primária de forma controlada, revogando a chave do provedor principal no ambiente de teste. Sinal de sucesso: a requisição do cliente é atendida pela rota secundária sem que a aplicação receba um erro 5xx. Lembre que fallback custa o que a execução bem-sucedida custar; no OpenRouter, o FAQ garante que tentativas falhas não são cobradas nos tokens.

7. Projete a fatura com um mês de dados reais

Com logs rodando, some inferência pelo preço de lista, aplique a taxa do gateway sobre a compra de créditos e inclua os adicionais que você ativou. Só depois compare com a fatura anterior. Sinal de sucesso: uma planilha onde cada linha do custo tem origem rastreável, e nenhuma surpresa na cobrança seguinte.

Como verificar que o gateway está funcionando

Verificação é rotina, não evento. Estabeleça três checagens.

• Latência. Compare o P95 do endpoint do gateway com o P95 direto do provedor, toda semana, com o mesmo teste de carga da etapa 3. Divergência acima do overhead documentado indica problema de rede ou de configuração, não de produto.
• Custo. Reconcilie o custo reportado no painel do gateway com a fatura do provedor mensalmente. Divergências pequenas são normais por defasagem de medição; divergências grandes significam que algo está roteando por caminho que você não contou.
• Governança. Faça uma auditoria trimestral das chaves virtuais ativas, orçamentos e permissões. Chave de time que saiu da empresa ativa é o achado mais comum desse tipo de revisão.

A questão que vale fazer a cada ciclo é simples: quantos milissegundos a mais você aceita em troca de orçamento, log e failover centralizados? A resposta muda com o produto, e reavaliar de tempos em tempos é parte da manutenção, não indecisão.

Erros comuns e soluções

Confundir benchmark de fornecedor com expectativa de produção. Os 11 µs do Bifrost valem na instância e no cenário do README; a mesma documentação mostra 59 µs em hardware menor. Solução: sempre meça no seu tráfego, como na etapa 3.

Ignorar que a taxa incide na recarga, não na requisição. Equipes que orçam por requisição se surpreendem com a taxa de 5% do Cloudflare ou de 5,5% e 8% do OpenRouter sobre créditos. Solução: modelar o custo como preço de lista mais taxa sobre o volume recarregado no período.

Estourar o limite do plano gratuito sem saber. O Vercel retorna 429 quando o free tier acaba, e o OpenRouter limita modelos gratuitos a 50 requisições por dia, 20 por minuto, subindo para mil por dia após US$ 10 em créditos. Solução: alertas no próprio limite menos margem, e migração planejada para o plano pago antes do pico.

Tratar BYOK como custo zero. Na Vercel, se uma requisição com credencial do cliente falha, o gateway repete com credenciais do sistema, e esse fallback é cobrado dos créditos. No OpenRouter, o BYOK gratuito cobre US$ 25 mil mensais e depois cobra 5%. Solução: monitorar o uso do BYOK separadamente das chaves do gateway.

Fixar dependências com descuido. Depois do comprometimento do LiteLLM no PyPI, instalar por versão solta virou risco. Solução: fixar versões, checar hashes e acompanhar os avisos de segurança do projeto que você adota.

Achar que self-hosted é de graça. O Bifrost e o gateway MIT da Portkey não cobram licença, mas exigem quem opere, atualize e monitore. Solução: contabilizar o custo operacional na comparação com o gerenciados, em horas de engenharia por mês, antes de decidir pelo econômico.

Perguntas frequentes