DeepInfra vs Groq : coûts, performances et limites

DeepInfra coûte $0.00054 par requête d’exemple GPT-OSS 120B, soit 3.9× moins que les $0.00210 de Groq ; Groq génère 8.4× plus vite, à 473.4 contre 56.6 tokens/s.

Mis à jour · 5 sources · Méthodologie

CritèreGagnantÉcartPreuve
Coût estimé par requêteDeepInfra$0.00156$0.00054 / $0.002102345
Vitesse de sortie (tokens/s)Groq8.4×56.6 / 473.4 tokens/s1
Endpoint Accuracy Index v1.0DeepInfra11 pp97% / 86%1

Performances

FournisseurVitesse de sortie (tokens/s)Délai médian avant le premier fragment (s)Endpoint Accuracy Index v1.0
DeepInfra156.60.6297%
Groq1473.40.6386%

Tarifs et coût par requête

FournisseurEntrée / 1M tokensSortie / 1M tokensCoût estimé par requête
DeepInfra23$0.037$0.17$0.00054
Groq45$0.15$0.60$0.00210
Exemple : 10,000 tokens en entrée + 1,000 en sortie facturée
DeepInfra$0.00054
Groq$0.00210

Capacités et conditions de service

CritèreDeepInfraGroq
API et identifiant du modèlehttps://api.deepinfra.com/v1/openai
openai/gpt-oss-120b23		https://api.groq.com/openai/v1
openai/gpt-oss-120b45
Déploiement et capacitéLimite par défaut du compte : 200 requêtes simultanées par modèle, mesurée en concurrence et non par minute ; une hausse peut être demandée.23Limites de base du plan Developer pour GPT-OSS 120B : 1K RPM, 500K RPD et 250K TPM ; des limites plus élevées existent pour certaines charges. Le plan gratuit annonce 30 RPM, 1K RPD, 8K TPM et 200K TPD.45

Quand choisir chaque option

DeepInfra

  • Choisissez l’endpoint standard si le coût récurrent prime sur la rapidité de chaque réponse.23
  • Sa référence de précision 97% dépasse les 86% de Groq ; le débit plus lent ne signifie pas moindre précision ici.1
  • DeepInfra a marqué comme obsolète la fiche Turbo de ce modèle ; c’est donc l’endpoint standard qu’il faut choisir et chiffrer.23

Groq

  • Préférez Groq pour les longues réponses interactives : AA mesure 473.4 tokens/s contre 56.6 chez DeepInfra.1
  • L’exemple fixe est à $0.00210 contre $0.00054 ; ce choix de vitesse augmente le budget par requête.2345
  • Dimensionnez le trafic de production sur les limites de base du plan Developer pour ce modèle, 1K RPM et 250K TPM, et non sur les 30 RPM et 8K TPM du plan gratuit.45

Méthodologie et sources

La capture AA compare GPT-OSS 120B à raisonnement élevé et 10,000 tokens en entrée. La latence initiale exclut raisonnement et sortie ultérieurs. Endpoint Accuracy Index est relatif à une référence. Tarifs officiels standards hors remise cache.

Les coûts sont des estimations aux tarifs synchrones sans cache, pas des factures mesurées ; la sortie facturée inclut le raisonnement. Taxes, nouvelles tentatives, remises et capacité négociée sont exclues. Novita AI publie cette page à partir de sources publiques, sans benchmark privé.

  1. Artificial Analysis · GPT-OSS 120B Providers
  2. DeepInfra · GPT-OSS 120B
  3. DeepInfra · Rate Limits
  4. Groq · GPT-OSS 120B
  5. Groq · Rate Limits

Développez avec Novita Model APIs

Créez une clé API et connectez votre application.

Commencez à développerExplorez les modèles