Guia de escolha

Melhores plataformas de inferência IA: custos, desempenho e limites

Escolha Novita AI para integrar 200+ modelos e Agent Sandbox, Together AI para capacidade reservada por contrato ou DeepInfra pelo exemplo de GPT-OSS 120B de $0.00054; OpenRouter adiciona roteamento entre provedores.

Atualizado · 15 fontes · Metodologia

NecessidadeRecomendaçãoMotivo
Menor custo do exemploOpenRouter$0.0004512
Maior velocidade de saída medidaGroq473 tokens/s3
Menor espera inicial medidaTogether AI0.47 s3

Desempenho

Desempenho

GPT-OSS 120B · captura de provedores Artificial Analysis (AA) · raciocínio alto · 10,000 tokens de entrada.

Deslize para ver todas as colunas

ProvedorVelocidade de saída (tokens/s)Mediana do tempo até o primeiro fragmento (s)Endpoint Accuracy Index v1.0
Novita AI3228.9193%
DeepInfra336.7198%
Groq3473.6590%
Together AI3118.4781%
Fireworks AI3Este endpoint não aparece nesta comparação de provedores da AA——
OpenRouter3Depende da rota ao provedor escolhida——

Recursos e condições do serviço

Recursos e condições do serviço

Deslize para ver todas as colunas

ProvedorAPI e ID do modeloServiço e capacidade
Novita AI456https://api.novita.ai/openai200+ modelos compartilham conta com produtos de imagem, vídeo, áudio, Agent Sandbox e GPU. GPT-OSS 120B tem limite anunciado de saída de 32K tokens.
DeepInfra78https://api.deepinfra.com/v1/openaiO endpoint padrão de GPT-OSS 120B é separado do Turbo. O limite padrão é de 200 solicitações simultâneas por modelo, não 200 por minuto.
Groq910https://api.groq.com/openai/v1O plano gratuito de GPT-OSS 120B anuncia 30 RPM, 1K RPD, 8K TPM e 200K TPD. Os limites do plano Developer pago são diferentes.
Together AI111213https://api.together.xyz/v1A Together anuncia 200+ modelos e contratos separados de capacidade reservada. O serviço serverless não garante capacidade e pode retornar 429 ou 503 sob alta demanda.
Fireworks AI1415https://api.fireworks.ai/inference/v1A entrada em cache de GPT-OSS 120B custa $0.015 por 1M tokens. Implantações dedicadas usam GPUs exclusivas; as cotas de solicitações da conta continuam válidas.
OpenRouter12https://openrouter.ai/api/v1Os modos incluem Balanced, Nitro, Floor e Exacto. A rota anunciada mais barata de GPT-OSS 120B custa $0.03/$0.15; taxas de recarga e condições de cada rota são separadas.

Preços

Preços e custo por solicitação

Deslize para ver todas as colunas

ProvedorEntrada / 1M tokensSaída / 1M tokens
Novita AI456$0.05$0.25
DeepInfra78$0.037$0.17
Groq910$0.15$0.60
Together AI111213$0.15$0.60
Fireworks AI1415$0.15$0.60
OpenRouter12
Depende da rota ao provedor escolhida
$0.03$0.15
Exemplo: 10,000 tokens de entrada + 1,000 de saída faturada
Novita AI$0.00075
DeepInfra$0.00054
Groq$0.00210
Together AI$0.00210
Fireworks AI$0.00210
OpenRouter$0.00045

Opções, vantagens e limitações

Opções, vantagens e limitações

  1. OpenRouter

    Uma plataforma de roteamento para aplicações que escolhem ou alternam provedores de inferência.

    Entrada / 1M tokens
    $0.03
    Saída / 1M tokens
    $0.15
    Custo estimado por solicitação
    $0.00045

    Vantagens

    • No mesmo exemplo de 10,000 tokens de entrada e 1,000 de saída, OpenRouter custa $0.00045, contra $0.00075 de Novita AI.12

    Limitações

    • OpenRouter adiciona uma camada de roteamento, não um contrato de GPU; o piso de $0.03/$0.15 depende do provedor de GPT-OSS 120B selecionado.

    Fontes:12 · Alternativas ao OpenRouter

  2. DeepInfra

    Uma opção de inferência direta de baixo custo, com preços separados para os endpoints padrão e Turbo.

    Entrada / 1M tokens
    $0.037
    Saída / 1M tokens
    $0.17
    Custo estimado por solicitação
    $0.00054

    Vantagens

    • No mesmo exemplo de 10,000 tokens de entrada e 1,000 de saída, DeepInfra custa $0.00054, contra $0.00075 de Novita AI.78

    Limitações

    • O endpoint padrão da DeepInfra oferece 36 tokens/s por $0.037/$0.17. Turbo tem preços e desempenho próprios; as tarifas padrão mais baixas não correspondem ao serviço mais rápido.3

    Fontes:78 · Novita AI vs DeepInfra

  3. Novita AI

    Uma plataforma de inferência para agentes que precisam de APIs de modelos e execução em sandbox na mesma conta.

    Entrada / 1M tokens
    $0.05
    Saída / 1M tokens
    $0.25
    Custo estimado por solicitação
    $0.00075

    Vantagens

    • A Novita reúne APIs de modelos, Agent Sandbox e produtos GPU em uma conta para aplicações que também executam tarefas de agentes; o exemplo de custo por tokens de GPT-OSS 120B é $0.00075.456

    Limitações

    • Usar a mesma conta não elimina o limite de saída de 32K da Novita AI. Sua mediana de 0.91 s até o primeiro fragmento é maior que os 0.65 s da Groq.3

    Fontes:456

  4. Groq

    Uma API direta com foco na velocidade das respostas em streaming dos modelos disponíveis.

    Entrada / 1M tokens
    $0.15
    Saída / 1M tokens
    $0.60
    Custo estimado por solicitação
    $0.00210

    Vantagens

    • Groq registra 473 tokens/s nesta captura AA; Novita AI custa $0.00075 por exemplo de tokens fixos.9103

    Limitações

    • A velocidade da Groq custa $0.15/$0.60 por 1M tokens de entrada/saída, acima dos $0.05/$0.25 da Novita AI. A capacidade continua sujeita ao modelo e plano escolhidos.

    Fontes:910 · Novita AI vs Groq

  5. Together AI

    Opções serverless e de throughput reservado para equipes que escolhem entre capacidade compartilhada e contratada.

    Entrada / 1M tokens
    $0.15
    Saída / 1M tokens
    $0.60
    Custo estimado por solicitação
    $0.00210

    Vantagens

    • Together tem a menor mediana medida do primeiro fragmento aqui: 0.47 s; Novita AI custa $0.00075 por exemplo.1112133

    Limitações

    • As tarifas da Together AI de $0.15/$0.60 por 1M tokens de entrada/saída superam os $0.05/$0.25 da Novita AI. Os limites do modelo e do plano continuam relevantes ao escolher capacidade serverless.

    Fontes:111213 · Novita AI vs Together AI

  6. Fireworks AI

    Inferência serverless com preços para entradas em cache e uma opção separada de implantação em GPUs dedicadas.

    Entrada / 1M tokens
    $0.15
    Saída / 1M tokens
    $0.60
    Custo estimado por solicitação
    $0.00210

    Vantagens

    • O Fireworks oferece acesso serverless e implantações em GPUs dedicadas; a entrada em cache de GPT-OSS 120B custa $0.015 por 1M tokens.1415

    Limitações

    • A capacidade GPU dedicada continua sujeita às cotas da Fireworks. Contas com método de pagamento e créditos ativos têm máximo de 6,000 RPM.

    Fontes:1415 · Novita AI vs Fireworks AI

Metodologia

Metodologia e fontes

Esta seleção compara seis opções de plataforma no GPT-OSS 120B. As linhas da AA descrevem provedores diretos com raciocínio high, 10,000 tokens de entrada e medianas de velocidade e primeiro bloco em 72 horas; o primeiro bloco recebido pode conter raciocínio e não espera pelo primeiro token da resposta. O Endpoint Accuracy Index é relativo a um endpoint de referência, e não uma taxa de aprovação em tarefas. Essas medições não descrevem a sobrecarga do OpenRouter, e a Fireworks não tem uma linha no snapshot da AA preservado.

O ranking usa o exemplo sem cache de 10,000 tokens de entrada / 1,000 tokens de saída faturados, incluindo raciocínio, com o OpenRouter no piso de preço de rota publicado, antes das taxas de compra de créditos. Esse piso não é uma cotação de provedor fixo; catálogos e contratos de capacidade também têm escopos diferentes. Impostos, novas tentativas, descontos e capacidade negociada são excluídos. A Novita AI fornece um dos serviços comparados e publica a página a partir de fontes públicas, sem um benchmark privado.

  1. OpenRouter · GPT-OSS 120B openrouter.ai · Consultado 2026-10-15
  2. OpenRouter · FAQ openrouter.ai · Consultado 2026-10-15
  3. Artificial Analysis · GPT-OSS 120B Providers artificialanalysis.ai · Consultado 2026-10-15
  4. Novita AI · GPT-OSS 120B novita.ai · Consultado 2026-10-15
  5. Novita AI · Platform novita.ai · Consultado 2026-10-15
  6. Novita AI · Batch docs.novita.ai · Consultado 2026-10-15
  7. DeepInfra · GPT-OSS 120B deepinfra.com · Consultado 2026-10-15
  8. DeepInfra · Rate Limits deepinfra.com · Consultado 2026-10-15
  9. Groq · GPT-OSS 120B console.groq.com · Consultado 2026-10-15
  10. Groq · Rate Limits console.groq.com · Consultado 2026-10-15
  11. Together AI · GPT-OSS 120B www.together.ai · Consultado 2026-10-15
  12. Together AI · Model Library www.together.ai · Consultado 2026-10-15
  13. Together AI · Rate Limits docs.together.ai · Consultado 2026-10-15
  14. Fireworks AI · GPT-OSS 120B fireworks.ai · Consultado 2026-10-15
  15. Fireworks AI · Account Quotas docs.fireworks.ai · Consultado 2026-10-15

Desenvolva com Novita Model APIs

Crie uma chave API e conecte sua aplicação.

Tudo o que você precisa para criar IA de produção.

Mais de 200 modelos, GPUs sob demanda e ambientes de execução de agentes seguros — unificados em uma única API. Grátis para começar, escala conforme você cresce.