Guia de escolha
Melhores plataformas de inferência IA: custos, desempenho e limites
Escolha Novita AI para integrar 200+ modelos e Agent Sandbox, Together AI para capacidade reservada por contrato ou DeepInfra pelo exemplo de GPT-OSS 120B de $0.00054; OpenRouter adiciona roteamento entre provedores.
| Necessidade | Recomendação | Motivo |
|---|---|---|
| Menor custo do exemplo | OpenRouter | $0.0004512 |
| Maior velocidade de saída medida | Groq | 473 tokens/s3 |
| Menor espera inicial medida | Together AI | 0.47 s3 |
Desempenho
Desempenho
GPT-OSS 120B · captura de provedores Artificial Analysis (AA) · raciocínio alto · 10,000 tokens de entrada.
Deslize para ver todas as colunas
| Provedor | Velocidade de saída (tokens/s) | Mediana do tempo até o primeiro fragmento (s) | Endpoint Accuracy Index v1.0 |
|---|---|---|---|
| Novita AI3 | 228 | .91 | 93% |
| DeepInfra3 | 36 | .71 | 98% |
| Groq3 | 473 | .65 | 90% |
| Together AI3 | 118 | .47 | 81% |
| Fireworks AI3 | Este endpoint não aparece nesta comparação de provedores da AA | — | — |
| OpenRouter3 | Depende da rota ao provedor escolhida | — | — |
Recursos e condições do serviço
Recursos e condições do serviço
Deslize para ver todas as colunas
| Provedor | API e ID do modelo | Serviço e capacidade |
|---|---|---|
| Novita AI456 | https://api.novita.ai/openai | 200+ modelos compartilham conta com produtos de imagem, vídeo, áudio, Agent Sandbox e GPU. GPT-OSS 120B tem limite anunciado de saída de 32K tokens. |
| DeepInfra78 | https://api.deepinfra.com/v1/openai | O endpoint padrão de GPT-OSS 120B é separado do Turbo. O limite padrão é de 200 solicitações simultâneas por modelo, não 200 por minuto. |
| Groq910 | https://api.groq.com/openai/v1 | O plano gratuito de GPT-OSS 120B anuncia 30 RPM, 1K RPD, 8K TPM e 200K TPD. Os limites do plano Developer pago são diferentes. |
| Together AI111213 | https://api.together.xyz/v1 | A Together anuncia 200+ modelos e contratos separados de capacidade reservada. O serviço serverless não garante capacidade e pode retornar 429 ou 503 sob alta demanda. |
| Fireworks AI1415 | https://api.fireworks.ai/inference/v1 | A entrada em cache de GPT-OSS 120B custa $0.015 por 1M tokens. Implantações dedicadas usam GPUs exclusivas; as cotas de solicitações da conta continuam válidas. |
| OpenRouter12 | https://openrouter.ai/api/v1 | Os modos incluem Balanced, Nitro, Floor e Exacto. A rota anunciada mais barata de GPT-OSS 120B custa $0.03/$0.15; taxas de recarga e condições de cada rota são separadas. |
Preços
Preços e custo por solicitação
Deslize para ver todas as colunas
| Provedor | Entrada / 1M tokens | Saída / 1M tokens |
|---|---|---|
| Novita AI456 | $0.05 | $0.25 |
| DeepInfra78 | $0.037 | $0.17 |
| Groq910 | $0.15 | $0.60 |
| Together AI111213 | $0.15 | $0.60 |
| Fireworks AI1415 | $0.15 | $0.60 |
| OpenRouter12 Depende da rota ao provedor escolhida | $0.03 | $0.15 |
Opções, vantagens e limitações
Opções, vantagens e limitações
OpenRouter
Uma plataforma de roteamento para aplicações que escolhem ou alternam provedores de inferência.
- Entrada / 1M tokens
- $0.03
- Saída / 1M tokens
- $0.15
- Custo estimado por solicitação
- $0.00045
Vantagens
Limitações
- OpenRouter adiciona uma camada de roteamento, não um contrato de GPU; o piso de $0.03/$0.15 depende do provedor de GPT-OSS 120B selecionado.
Fontes:12 · Alternativas ao OpenRouter
DeepInfra
Uma opção de inferência direta de baixo custo, com preços separados para os endpoints padrão e Turbo.
- Entrada / 1M tokens
- $0.037
- Saída / 1M tokens
- $0.17
- Custo estimado por solicitação
- $0.00054
Vantagens
Limitações
- O endpoint padrão da DeepInfra oferece 36 tokens/s por $0.037/$0.17. Turbo tem preços e desempenho próprios; as tarifas padrão mais baixas não correspondem ao serviço mais rápido.3
Fontes:78 · Novita AI vs DeepInfra
Novita AI
Uma plataforma de inferência para agentes que precisam de APIs de modelos e execução em sandbox na mesma conta.
- Entrada / 1M tokens
- $0.05
- Saída / 1M tokens
- $0.25
- Custo estimado por solicitação
- $0.00075
Vantagens
Limitações
- Usar a mesma conta não elimina o limite de saída de 32K da Novita AI. Sua mediana de 0.91 s até o primeiro fragmento é maior que os 0.65 s da Groq.3
Groq
Uma API direta com foco na velocidade das respostas em streaming dos modelos disponíveis.
- Entrada / 1M tokens
- $0.15
- Saída / 1M tokens
- $0.60
- Custo estimado por solicitação
- $0.00210
Vantagens
Limitações
- A velocidade da Groq custa $0.15/$0.60 por 1M tokens de entrada/saída, acima dos $0.05/$0.25 da Novita AI. A capacidade continua sujeita ao modelo e plano escolhidos.
Fontes:910 · Novita AI vs Groq
Together AI
Opções serverless e de throughput reservado para equipes que escolhem entre capacidade compartilhada e contratada.
- Entrada / 1M tokens
- $0.15
- Saída / 1M tokens
- $0.60
- Custo estimado por solicitação
- $0.00210
Vantagens
Limitações
- As tarifas da Together AI de $0.15/$0.60 por 1M tokens de entrada/saída superam os $0.05/$0.25 da Novita AI. Os limites do modelo e do plano continuam relevantes ao escolher capacidade serverless.
Fontes:111213 · Novita AI vs Together AI
Fireworks AI
Inferência serverless com preços para entradas em cache e uma opção separada de implantação em GPUs dedicadas.
- Entrada / 1M tokens
- $0.15
- Saída / 1M tokens
- $0.60
- Custo estimado por solicitação
- $0.00210
Vantagens
Limitações
- A capacidade GPU dedicada continua sujeita às cotas da Fireworks. Contas com método de pagamento e créditos ativos têm máximo de 6,000 RPM.
Fontes:1415 · Novita AI vs Fireworks AI
Metodologia
Metodologia e fontes
Esta seleção compara seis opções de plataforma no GPT-OSS 120B. As linhas da AA descrevem provedores diretos com raciocínio high, 10,000 tokens de entrada e medianas de velocidade e primeiro bloco em 72 horas; o primeiro bloco recebido pode conter raciocínio e não espera pelo primeiro token da resposta. O Endpoint Accuracy Index é relativo a um endpoint de referência, e não uma taxa de aprovação em tarefas. Essas medições não descrevem a sobrecarga do OpenRouter, e a Fireworks não tem uma linha no snapshot da AA preservado.
O ranking usa o exemplo sem cache de 10,000 tokens de entrada / 1,000 tokens de saída faturados, incluindo raciocínio, com o OpenRouter no piso de preço de rota publicado, antes das taxas de compra de créditos. Esse piso não é uma cotação de provedor fixo; catálogos e contratos de capacidade também têm escopos diferentes. Impostos, novas tentativas, descontos e capacidade negociada são excluídos. A Novita AI fornece um dos serviços comparados e publica a página a partir de fontes públicas, sem um benchmark privado.
- OpenRouter · GPT-OSS 120B openrouter.ai · Consultado 2026-10-15
- OpenRouter · FAQ openrouter.ai · Consultado 2026-10-15
- Artificial Analysis · GPT-OSS 120B Providers artificialanalysis.ai · Consultado 2026-10-15
- Novita AI · GPT-OSS 120B novita.ai · Consultado 2026-10-15
- Novita AI · Platform novita.ai · Consultado 2026-10-15
- Novita AI · Batch docs.novita.ai · Consultado 2026-10-15
- DeepInfra · GPT-OSS 120B deepinfra.com · Consultado 2026-10-15
- DeepInfra · Rate Limits deepinfra.com · Consultado 2026-10-15
- Groq · GPT-OSS 120B console.groq.com · Consultado 2026-10-15
- Groq · Rate Limits console.groq.com · Consultado 2026-10-15
- Together AI · GPT-OSS 120B www.together.ai · Consultado 2026-10-15
- Together AI · Model Library www.together.ai · Consultado 2026-10-15
- Together AI · Rate Limits docs.together.ai · Consultado 2026-10-15
- Fireworks AI · GPT-OSS 120B fireworks.ai · Consultado 2026-10-15
- Fireworks AI · Account Quotas docs.fireworks.ai · Consultado 2026-10-15
Desenvolva com Novita Model APIs
Crie uma chave API e conecte sua aplicação.