DeepInfra vs Groq: custos, desempenho e limites

A DeepInfra custa $0.00054 por solicitação de exemplo com GPT-OSS 120B, 3.9× menos que os $0.00210 da Groq; a Groq gera 8.4× mais rápido, com 473.4 contra 56.6 tokens/s.

Atualizado · 5 fontes · Metodologia

CritérioVencedorDiferençaEvidência
Custo estimado por solicitaçãoDeepInfra$0.00156$0.00054 / $0.002102345
Velocidade de saída (tokens/s)Groq8.4×56.6 / 473.4 tokens/s1
Endpoint Accuracy Index v1.0DeepInfra11 pp97% / 86%1

Desempenho

ProvedorVelocidade de saída (tokens/s)Mediana do tempo até o primeiro fragmento (s)Endpoint Accuracy Index v1.0
DeepInfra156.60.6297%
Groq1473.40.6386%

Preços e custo por solicitação

ProvedorEntrada / 1M tokensSaída / 1M tokensCusto estimado por solicitação
DeepInfra23$0.037$0.17$0.00054
Groq45$0.15$0.60$0.00210
Exemplo: 10,000 tokens de entrada + 1,000 de saída faturada
DeepInfra$0.00054
Groq$0.00210

Recursos e condições do serviço

CritérioDeepInfraGroq
API e ID do modelohttps://api.deepinfra.com/v1/openai
openai/gpt-oss-120b23		https://api.groq.com/openai/v1
openai/gpt-oss-120b45
Serviço e capacidadeLimite padrão da conta: 200 solicitações simultâneas por modelo, medido por concorrência e não por minuto; é possível solicitar aumento.23Limites base do plano Developer para GPT-OSS 120B: 1K RPM, 500K RPD e 250K TPM; há limites maiores para cargas selecionadas. O plano gratuito anuncia 30 RPM, 1K RPD, 8K TPM e 200K TPD.45

Quando escolher cada opção

DeepInfra

  • Escolha o endpoint padrão se custo recorrente importa mais que concluir cada resposta rapidamente.23
  • A referência de precisão 97% supera 86% do Groq; a saída mais lenta não implica menor precisão aqui.1
  • A DeepInfra marcou como obsoleta a listagem Turbo deste modelo, então o endpoint padrão é o que deve ser escolhido e precificado.23

Groq

  • Prefira Groq para respostas interativas longas: AA registra 473.4 tokens/s contra 56.6 da DeepInfra.1
  • O exemplo fixo é $0.00210 contra $0.00054; escolher velocidade aumenta orçamento por solicitação.2345
  • Dimensione o tráfego de produção pelos limites base do plano Developer para este modelo, 1K RPM e 250K TPM, não pelos 30 RPM e 8K TPM do plano gratuito.45

Metodologia e fontes

A captura da AA compara GPT-OSS 120B com raciocínio alto e 10,000 tokens de entrada. A latência inicial exclui raciocínio e saída posteriores. Endpoint Accuracy Index é relativo a uma referência. Preços oficiais padrão sem descontos de cache.

Os custos são estimativas com tarifas síncronas sem cache, não faturas medidas; a saída faturada inclui raciocínio. Impostos, novas tentativas, descontos e capacidade negociada ficam excluídos. A Novita AI publica esta página com fontes públicas, sem benchmark privado.

  1. Artificial Analysis · GPT-OSS 120B Providers
  2. DeepInfra · GPT-OSS 120B
  3. DeepInfra · Rate Limits
  4. Groq · GPT-OSS 120B
  5. Groq · Rate Limits

Desenvolva com Novita Model APIs

Crie uma chave API e conecte sua aplicação.

Comece a desenvolverExplore os modelos