AI gateways em 2026: o ranking dos 9 principais e o que os números divergentes revelam

O mesmo produto aparece com dois números de latência no mesmo mês: 11 microssegundos de overhead a 5.000 requisições por segundo em um ranking publicado em 14 de outubro de 2026, e "menos de 200µs" na página do repositório do Bifrost (abre em nova aba) consultada no dia seguinte. Os dois valores podem estar corretos, medidos em hardware e condições diferentes, e é justamente aí que mora o problema de quem precisa escolher um gateway de IA (abre em nova aba) para produção: quase todo número público desse mercado é alegação do fornecedor, com metodologia própria ou omitida, e a decisão acaba se apoiando em bases que o próprio ranking recomenda tratar com desconfiança. Este texto reconstrói o ranking, confronta licenças e preços documentados e mapeia as divergências entre fontes, para deixar claro o que cada arquitetura exige de quem adota.

O que um gateway de IA faz (e por que virou decisão de arquitetura)

Um AI gateway, ou LLM gateway, é uma camada de controle entre a aplicação e os provedores de modelos generativos. No lugar de chamar a API de cada laboratório diretamente, a aplicação fala com o gateway, que expõe uma API compatível com o formato da OpenAI e cuida do resto: roteamento entre provedores, failover quando um modelo cai, balanceamento de carga, cache semântico para respostas repetidas e observabilidade de uso.

A camada de governança é o que separa um gateway de um simples proxy. As funcionalidades recorrentes na documentação dos nove produtos comparados são as virtual keys (chaves virtuais que mascaram as credenciais reais dos provedores, permitindo revogar e limitar sem tocar no cofre de segredos), orçamentos por equipe ou projeto, RBAC (controle de acesso por papel), logs de auditoria e guardrails, filtros que avaliam prompts e respostas contra políticas de segurança. Sem essa camada, cada aplicação reimplementa o mesmo controle, e a empresa descobre o gasto com modelos quando a fatura chega.

O mercado movimentou bastante em 2026, e os movimentos explicam por que a escolha deixou de ser trivial. A lista do MarkTechPost registra três eventos no ano: a Palo Alto Networks concluiu a aquisição da Portkey em 29 de maio e a relançou como Prisma AIRS AI Gateway em 16 de julho, segundo o comparativo da Coworker; a Mintlify adquiriu a Helicone, que passou a operar em modo de manutenção; e o LiteLLM sobreviveu a um comprometimento de cadeia de suprimentos no PyPI em março. Cada um desses episódios altera uma das variáveis da decisão: quem manda no produto, se ele continua evoluindo e se a cadeia de dependências é confiável.

Como o ranking foi montado, e o que ele mede de fato

O ranking do MarkTechPost ponderou seis critérios voltados a uso em produção: evidência de desempenho (overhead publicado e como foi medido), cobertura de provedores e modelos, governança, opções de implantação (self-hosted, VPC, air-gapped ou somente gerenciado), modelo de custo (markup, taxas de plataforma, limites do free tier) e risco de fornecedor e de cadeia de suprimentos. A conclusão metodológica do próprio texto é honesta: trate todo benchmark de fornecedor como alegação.

Isso importa porque os critérios não foram medidos com instrumento único. A latência citada para o Bifrost vem do README do projeto (11µs adicionais a 5.000 RPS em uma instância t3.xlarge, 59µs em uma t3.medium); o comparativo do Portkey vem de página de concorrente; o LiteLLM aparece com 8ms no P95 a 1.000 RPS; o Kong AI Gateway tem overhead simplesmente não divulgado. São números de origens diferentes, em hardware diferente, com misturas de requisição provavelmente diferentes. Eles ordenam o ranking, mas não formam uma medição comparável.

Na cobertura, a diferença entre alegação e medição independente fica mais nítida. A comparação da LLMScape (abre em nova aba), publicada em 15 de outubro de 2026, conta modelos pelo endpoint /models de cada gateway, um método replicável, e chega a números bem menores que os de marketing.

Só para dar escala: o marketing da OpenRouter fala em acesso aos principais laboratórios mais modelos abertos, e o número verificado no endpoint é 462. A contagem da Cloudflare inclui os modelos do Workers AI além dos de terceiros, e a LLMScape não conseguiu apurar preços publicados naquela coluna. Nenhuma dessas fontes afirma que catálogo maior significa menor latência, e a LLMScape diz isso explicitamente.

Licenças: onde o controle muda de mãos

A primeira decisão binária é entre código aberto auto-hospedado e serviço gerenciado. Ela determina quem controla os logs, quem paga a infraestrutura e qual é o custo de saída se o fornecedor mudar de rumo, o que em 2026 deixou de ser hipótese teórica com a aquisição da Portkey e o modo de manutenção da Helicone.

Fontes: preços e licenças verificados pela Coworker nas páginas próprias dos fornecedores em 6 de outubro de 2026; detalhes de implantação do MarkTechPost e da Respan.

Três nuances mudam o que a tabela parece dizer. A primeira é que "open source" no LiteLLM tem exceção: a licença MIT cobre o gateway, mas há um diretório empresarial fora dela, e o plano Enterprise é contratado por capacidade anual de requisições do gateway, não por tokens, com SSO com SCIM, OIDC, logs de auditoria e integração com gerenciador de segredos com rotação de chaves, segundo a análise da Respan (abre em nova aba). A segunda é que o Portkey tem o repositório aberto sob MIT, mas a plataforma que o MarkTechPost ranqueia em segundo lugar é a versão proprietária com 1.600+ modelos. A terceira é o Kong: o núcleo é Apache 2.0, mas os plugins de IA são licenciados, e o preço por modelo ($100 por modelo por mês) cobra em função de quantos provedores você integra, não de quanto tráfego passa.

Preço anunciado, custo real

O critério de custo é onde o comparativo fica mais traiçoeiro, porque três estratégias de cobrança convivem no mesmo mercado, e nenhuma página de preço entrega o cálculo completo.

Os gateways que alegam repasse integral do preço dos provedores são o caso mais ilustrativo. O Cloudflare AI Gateway (abre em nova aba) documenta que a inferência é cobrada sem markup, com os mesmos preços por token da cobrança direta. Só que a mesma página registra uma taxa de 5% sobre créditos comprados pelo Unified Billing: uma compra de $100 em créditos gera cobrança de $105. E as funcionalidades avançadas têm dinâmica própria: o guardrails usa o modelo llama-guard-3-8b no Workers AI e é faturado como inferência por token, então o custo escala com o tamanho dos prompts e respostas avaliados, não é uma taxa fixa. A prevenção de vazamento de dados (DLP) é gratuita em todos os planos, mas contas sem assinatura Zero Trust ficam limitadas a dois perfis predefinidos.

O Vercel AI Gateway (abre em nova aba) também declara zero markup e nenhuma taxa de plataforma sobre tokens, cobrando o preço de tabela do provedor. O detalhamento, atualizado em 8 de setembro de 2026, mostra por que o "zero markup" precisa ser lido até o fim: o free tier inclui $5 por mês, mas só modelos elegíveis e sem BYOK (bring your own key, usar suas próprias credenciais de provedor); ao comprar créditos, a conta migra para o tier pago e o crédito mensal gratuito deixa de valer; e há sobretaxas opcionais, como $0,075 por mil gravações de etiquetas no Custom Reporting, $0,10 por mil requisições bem-sucedidas para allowlist de provedores em toda a equipe nos planos Pro e Enterprise, e Trace Drains a $0,05 por mil traces mais $0,50 por GB de egress.

O OpenRouter assume outra posição: cobra 5,5% sobre créditos, uma taxa explícita em vez de sobretaxas espalhadas, o que facilita o cálculo mas pesa em volume alto. A lógica do Kong já se deparou com caminho inverso: preço baixo de entrada ($25/mês) e custo que cresce por modelo integrado, o que favorece quem usa um ou dois provedores e penaliza times com estratégia multi-modelo.

No self-hosted, o preço público é $0, e o custo total é outra coisa. A Respan resume: o custo real é infraestrutura e tempo de engenharia, e nenhum dos dois fabricantes publica preço do plano Enterprise. O Bifrost Enterprise, descrito pela Respan, agrega guardrails, clustering, balanceamento adaptativo, SSO via SAML ou OIDC, RBAC e logs de auditoria com suporte sob SLA, e a Maxim (fabricante) oferece trial de 14 dias mediante solicitação. Há um padrão claro no mercado: o código aberto entrega o roteamento, e o que uma empresa de médio porte considera indispensável em produção fica atrás do contrato.

Todo preço citado nesta comparação está em dólar e vem das páginas dos próprios fornecedores; condições de pagamento, faturamento e disponibilidade regional variam por produto e não estão nas páginas de preço consultadas, então precisam ser confirmadas diretamente antes de qualquer contrato.

Números que não fecham (e o que isso ensina)

Aqui está o contraponto mais incômodo do comparativo. O benchmark contra o LiteLLM citado no ranking, com P99 de 1,68s contra 90,72s a 500 RPS, vem da Maxim, fabricante do Bifrost. Não é um estudo independente, e o número do LiteLLM (um P99 de mais de 90 segundos) é uma alegação extraordinária que pediria metodologia detalhada para ser levada a sério: mix de requisições, configuração do LiteLLM, hardware, réplicas. Publicado como comparação de marketing, ele diz mais sobre a prática do setor do que sobre os produtos.

As contagens de estrelas no GitHub seguem a mesma linha. A página da OpenAlternative (abre em nova aba) de 15 de outubro lista 8.833 estrelas para o Bifrost e 13.194 para o Portkey, com último commit de minutos atrás no primeiro e de cinco meses atrás no segundo. O repositório com mais estrelas está menos ativo. Para quem usa estrelas como indicador de saúde de projeto, o sinal invertido em 2026 é um aviso: estrelas medem atenção histórica, atividade mede manutenção corrente, e a aquisição da Portkey pela Palo Alto Networks tornou o futuro do repositório aberto uma questão aberta, não um fato.

O caso do LiteLLM aponta para a outra direção. O comprometimento na cadeia de suprimentos do PyPI em março de 2026, registrado pelo MarkTechPost, mostrou que self-hosting não elimina risco de fornecedor: quem roda o gateway dentro da própria VPC continua puxando dependências de registros públicos. O critério de "risco de fornecedor e cadeia de suprimentos" no ranking não é burocrático; é a variável que o ano de 2026 mais mexeu.

Vale juntar os dois lados lado a lado: de um lado, o README do Bifrost com medição especificada (hardware, carga, valor por instância); do outro, a página do produto com uma alegação de magnitude maior e sem detalhar método. De um lado, um benchmark de concorrente com números dramáticos; do outro, um ranking que se recusa a endossá-lo. A leitura técnica razoável é que nenhum desses números autoriza uma decisão sem teste próprio.

Como decidir: três cenários, condições explícitas

A escolha se resolve melhor por condições do que por ranking. O que precisa ficar decidido antes de olhar produto: quem paga por quê (por requisição, por log, por modelo, por usuário ou por crédito), quem é o dono dos logs e quanto custa sair.

Para um time com capacidade de plataforma, requisitos de residência de dados ou ambiente air-gapped, o caminho são os gateways abertos: Bifrost (Apache 2.0, escrito em Go, com claim de menos de 200µs de overhead a 5.000 RPS) ou LiteLLM (MIT, com a maior cobertura declarada de provedores, 140+). A condição é aceitar que governança avançada exigirá contrato Enterprise e que a operação, o monitoramento e a resposta a incidentes da cadeia de dependências passam a ser problema do time. Faz sentido quando o volume de requisições torna qualquer taxa percentual relevante ou quando dados sensíveis não podem atravessar um serviço gerenciado.

Para um time pequeno que já opera em um dos ecossistemas gerenciados, Cloudflare ou Vercel reduzem atrito: ambos alegam repasse do preço dos provedores sem markup, e o custo incremental real fica nas taxas indiretas (5% do Unified Billing no Cloudflare, sobretaxas opcionais e o fim do free tier ao comprar créditos na Vercel) e no custo dos guardrails por token avaliado. A condição é modelar essas taxas no orçamento em vez de comparar apenas o "zero markup" do título.

Para catálogo amplo com billing único, o OpenRouter cobre 462 modelos verificados no endpoint com 455 deles com preço publicado, ao custo transparente de 5,5% sobre créditos. Faz sentido para exploração e produtos multi-modelo; pesa quando o volume justificaria self-hosting. Para governança corporativa pesada (SSO, conformidade, auditoria centralizada), Kong, TrueFoundry e o Portkey pós-aquisição cobram por eixos diferentes: por modelo, por usuário e por logs/requisições. O alinhamento entre o eixo de cobrança e o formato do uso é, muitas vezes, mais decisivo que a diferença entre valores nominais.

O que sobra depois da comparação

O ranking do MarkTechPost é mais útil como mapa de critérios do que como veredito. Seu maior mérito é explícito nos próprios termos: pesar evidência de desempenho e risco de cadeia de suprimentos com o mesmo cuidado que cobertura e preço, num ano em que fornecedores foram comprados, produtos entraram em manutenção e uma dependência do PyPI foi comprometida. A ordem final (Bifrost, Portkey, LiteLLM na frente) reflete as ponderações dos autores, não um teste controlado.

Para o leitor técnico, três conclusões sustentadas pelas fontes sobrevivem à comparação. Primeira: licença e modelo de implantação são a decisão estruturante, porque determinam dono dos dados, custo de saída e exposição ao risco de fornecedor, e essa linha divide o mercado entre os quatro produtos com componente aberto (Bifrost, Portkey, LiteLLM, Kong) e os cinco gerenciados. Segunda: preço de tabela e custo total divergem em todos os modelos de negócio examinados, do free tier da Vercel que morre com a compra de créditos à taxa de 5% do Cloudflare sobre créditos, e a modelagem tem de incluir sobretaxas, guardrails e logs. Terceira: os números públicos de latência e cobertura não são comparáveis entre si, e o investimento mais rentável do processo de escolha é uma hora de benchmark próprio com tráfego real.

Perguntas frequentes