Guide de sélection

Meilleures plateformes d’inférence IA : coûts, performances et limites

Choisissez Novita AI pour réunir 200+ modèles et Agent Sandbox, Together AI pour un débit réservé par contrat ou DeepInfra pour l’exemple GPT-OSS 120B à $0.00054 ; OpenRouter ajoute le routage entre fournisseurs.

Mis à jour · 15 sources · Méthodologie

BesoinRecommandationPourquoi
Coût le plus bas de l’exempleOpenRouter$0.0004512
Vitesse de sortie mesurée la plus élevéeGroq473 tokens/s3
Attente initiale mesurée la plus courteTogether AI0.47 s3

Performances

Performances

GPT-OSS 120B · instantané des fournisseurs Artificial Analysis (AA) · raisonnement élevé · 10,000 tokens d’entrée.

Faites glisser pour voir toutes les colonnes

FournisseurVitesse de sortie (tokens/s)Délai médian avant le premier fragment (s)Endpoint Accuracy Index v1.0
Novita AI3228.9193%
DeepInfra336.7198%
Groq3473.6590%
Together AI3118.4781%
Fireworks AI3Aucune ligne pour cet endpoint dans cet instantané AA——
OpenRouter3Dépend de la route du fournisseur amont sélectionnée——

Capacités et conditions de service

Capacités et conditions de service

Faites glisser pour voir toutes les colonnes

FournisseurAPI et identifiant du modèleDéploiement et capacité
Novita AI456https://api.novita.ai/openaiUn même compte donne accès à 200+ modèles ainsi qu’aux produits image, vidéo, audio, Agent Sandbox et GPU. GPT-OSS 120B a une sortie maximale annoncée de 32K tokens.
DeepInfra78https://api.deepinfra.com/v1/openaiL’endpoint standard GPT-OSS 120B est distinct de Turbo. La limite par défaut est de 200 requêtes simultanées par modèle, et non de 200 par minute.
Groq910https://api.groq.com/openai/v1Le plan gratuit GPT-OSS 120B annonce 30 RPM, 1K RPD, 8K TPM et 200K TPD. Le plan Developer payant a des limites différentes.
Together AI111213https://api.together.xyz/v1Together annonce 200+ modèles et des contrats distincts de débit réservé. Serverless est sans garantie et peut renvoyer 429 ou 503 en forte demande.
Fireworks AI1415https://api.fireworks.ai/inference/v1L’entrée en cache de GPT-OSS 120B coûte $0.015 par 1M tokens. Les déploiements à la demande utilisent des GPU dédiés ; les quotas de requêtes du compte restent applicables.
OpenRouter12https://openrouter.ai/api/v1Les modes incluent Balanced, Nitro, Floor et Exacto. La route GPT-OSS 120B la moins chère affichée coûte $0.03/$0.15 ; frais de recharge et conditions de routage sont distincts.

Tarifs

Tarifs et coût par requête

Faites glisser pour voir toutes les colonnes

FournisseurEntrée / 1M tokensSortie / 1M tokens
Novita AI456$0.05$0.25
DeepInfra78$0.037$0.17
Groq910$0.15$0.60
Together AI111213$0.15$0.60
Fireworks AI1415$0.15$0.60
OpenRouter12
Dépend de la route du fournisseur amont sélectionnée
$0.03$0.15
Exemple : 10,000 tokens en entrée + 1,000 en sortie facturée
Novita AI$0.00075
DeepInfra$0.00054
Groq$0.00210
Together AI$0.00210
Fireworks AI$0.00210
OpenRouter$0.00045

Options, points forts et limites

Options, points forts et limites

  1. OpenRouter

    Une plateforme de routage pour les applications qui choisissent ou changent de fournisseur d’inférence.

    Entrée / 1M tokens
    $0.03
    Sortie / 1M tokens
    $0.15
    Coût estimé par requête
    $0.00045

    Points forts

    • Pour le même exemple de 10,000 tokens en entrée et 1,000 en sortie, OpenRouter coûte $0.00045, contre $0.00075 chez Novita AI.12

    Limites

    • OpenRouter ajoute une couche de routage plutôt qu’un contrat GPU ; son plancher de $0.03/$0.15 dépend du fournisseur GPT-OSS 120B choisi.

    Sources :12 · Alternatives à OpenRouter

  2. DeepInfra

    Une option d’inférence directe à faible coût, avec des tarifs distincts pour les endpoints standard et Turbo.

    Entrée / 1M tokens
    $0.037
    Sortie / 1M tokens
    $0.17
    Coût estimé par requête
    $0.00054

    Points forts

    • Pour le même exemple de 10,000 tokens en entrée et 1,000 en sortie, DeepInfra coûte $0.00054, contre $0.00075 chez Novita AI.78

    Limites

    • L’endpoint standard de DeepInfra fournit 36 tokens/s à $0.037/$0.17. Turbo a ses propres tarifs et performances ; les tarifs standard inférieurs ne correspondent donc pas au service le plus rapide.3

    Sources :78 · Novita AI vs DeepInfra

  3. Novita AI

    Une plateforme d’inférence pour les agents qui réunissent API de modèles et exécution en sandbox dans un même compte.

    Entrée / 1M tokens
    $0.05
    Sortie / 1M tokens
    $0.25
    Coût estimé par requête
    $0.00075

    Points forts

    • Novita réunit API de modèles, Agent Sandbox et produits GPU dans un compte pour les applications exécutant aussi des tâches d’agents ; l’exemple de coût en tokens de GPT-OSS 120B est de $0.00075.456

    Limites

    • Un compte commun ne supprime pas le plafond de sortie de 32K de Novita AI. Son délai médian avant le premier fragment, de 0.91 s, est plus long que les 0.65 s de Groq.3

    Sources :456

  4. Groq

    Une API directe axée sur la vitesse des réponses en streaming des modèles pris en charge.

    Entrée / 1M tokens
    $0.15
    Sortie / 1M tokens
    $0.60
    Coût estimé par requête
    $0.00210

    Points forts

    • Groq atteint 473 tokens/s dans cet instantané AA ; Novita AI coûte $0.00075 dans cet exemple à quantité de tokens fixe.9103

    Limites

    • La vitesse de Groq coûte $0.15/$0.60 par 1M tokens en entrée/sortie, au-dessus des $0.05/$0.25 de Novita AI. La capacité reste soumise aux conditions du modèle et du plan choisis.

    Sources :910 · Novita AI vs Groq

  5. Together AI

    Des offres serverless et de débit réservé pour les équipes qui choisissent entre capacité partagée et contractuelle.

    Entrée / 1M tokens
    $0.15
    Sortie / 1M tokens
    $0.60
    Coût estimé par requête
    $0.00210

    Points forts

    • Together a le délai médian mesuré le plus court avant le premier fragment : 0.47 s ; Novita AI coûte $0.00075 par exemple.1112133

    Limites

    • Les tarifs de Together AI, $0.15/$0.60 par 1M tokens en entrée/sortie, dépassent les $0.05/$0.25 de Novita AI. Les limites du modèle et du plan restent à prendre en compte pour la capacité serverless.

    Sources :111213 · Novita AI vs Together AI

  6. Fireworks AI

    Inférence serverless avec tarifs d’entrée en cache et option distincte de déploiement sur GPU dédiés.

    Entrée / 1M tokens
    $0.15
    Sortie / 1M tokens
    $0.60
    Coût estimé par requête
    $0.00210

    Points forts

    • Fireworks propose un accès serverless et des déploiements sur GPU dédiés ; l’entrée en cache de GPT-OSS 120B est affichée à $0.015 par 1M tokens.1415

    Limites

    • La capacité GPU dédiée reste soumise aux quotas du compte Fireworks. Les comptes avec moyen de paiement et crédits actifs ont un maximum de 6,000 RPM.

    Sources :1415 · Novita AI vs Fireworks AI

Méthodologie

Méthodologie et sources

Cette sélection compare six plateformes sur GPT-OSS 120B. Les lignes AA décrivent les fournisseurs directs avec un raisonnement high, 10,000 tokens en entrée et des médianes sur 72 heures pour la vitesse et le délai avant le premier fragment ; le premier fragment reçu peut contenir du raisonnement et n’attend pas le premier token de réponse. L’Endpoint Accuracy Index est relatif à un endpoint de référence, pas à un taux de réussite des tâches. Ces mesures ne décrivent pas le surcoût de routage d’OpenRouter, et Fireworks n’a pas de ligne dans l’instantané AA conservé.

Le classement utilise l’exemple sans cache de 10,000 tokens en entrée / 1,000 tokens de sortie facturés, raisonnement compris, avec le tarif de route minimal publié d’OpenRouter avant frais d’achat de crédits. Ce minimum n’est pas un tarif fixe de fournisseur ; les catalogues et les contrats de capacité ont aussi des périmètres différents. Taxes, nouvelles tentatives, remises et capacités négociées sont exclues. Novita AI fournit un service comparé et publie cette page à partir de sources publiques, sans benchmark interne.

  1. OpenRouter · GPT-OSS 120B openrouter.ai · Consulté 2026-10-15
  2. OpenRouter · FAQ openrouter.ai · Consulté 2026-10-15
  3. Artificial Analysis · GPT-OSS 120B Providers artificialanalysis.ai · Consulté 2026-10-15
  4. Novita AI · GPT-OSS 120B novita.ai · Consulté 2026-10-15
  5. Novita AI · Platform novita.ai · Consulté 2026-10-15
  6. Novita AI · Batch docs.novita.ai · Consulté 2026-10-15
  7. DeepInfra · GPT-OSS 120B deepinfra.com · Consulté 2026-10-15
  8. DeepInfra · Rate Limits deepinfra.com · Consulté 2026-10-15
  9. Groq · GPT-OSS 120B console.groq.com · Consulté 2026-10-15
  10. Groq · Rate Limits console.groq.com · Consulté 2026-10-15
  11. Together AI · GPT-OSS 120B www.together.ai · Consulté 2026-10-15
  12. Together AI · Model Library www.together.ai · Consulté 2026-10-15
  13. Together AI · Rate Limits docs.together.ai · Consulté 2026-10-15
  14. Fireworks AI · GPT-OSS 120B fireworks.ai · Consulté 2026-10-15
  15. Fireworks AI · Account Quotas docs.fireworks.ai · Consulté 2026-10-15

Développez avec Novita Model APIs

Créez une clé API et connectez votre application.

Tout ce dont vous avez besoin pour créer une IA de production.

Plus de 200 modèles, des GPUs à la demande et des environnements d’exécution d’agents sécurisés — unifiés sous une seule API. Gratuit pour commencer, évolutif à mesure que vous grandissez.