L’API LLM la plus rapide : la vitesse par modèle, pas par fournisseur

La vitesse dépend du modèle, pas seulement du fournisseur. Le palier Fast de Baseten mène DeepSeek V4.1 Flash 1017 à 837.1 tokens/s avec un premier fragment en 0.21 s, et GLM-5.3 à 283.4 tokens/s ; CoreWeave mène GLM-5.3-Flash à 292.4 tokens/s, et Cerebras mène toujours la référence GPT-OSS 120B à 1,693.7 tokens/s. Novita AI arrive quatrième ou plus bas sur chaque modèle actuel.

Mis à jour · 18 sources · Méthodologie

BesoinRecommandationPourquoi
Le plus rapide · GLM-5.3Baseten (Fast)283.4 tokens/s, premier fragment en 0.90 s1
Le plus rapide · DeepSeek V4.1 Flash 1017Baseten (Fast)837.1 tokens/s, premier fragment en 0.21 s2
Le plus rapide · GLM-5.3-FlashCoreWeave292.4 tokens/s, premier fragment en 1.38 s3
Le plus rapide · référence GPT-OSS 120BCerebras1,693.7 tokens/s, premier fragment en 0.38 s4
Premier fragment le plus court · DeepSeek V4.1 Flash 1017Baseten (Fast)0.21 s, contre 0.27 s sur le palier standard de Baseten2
Meilleure précision · GLM-5.3Z.ai98.74 %, 3.12 points de plus que Novita AI118

Comment lire ces classements

Toutes les valeurs sont des médianes de fournisseur Artificial Analysis (AA) sur 10 000 tokens d’entrée : débit de sortie en tokens par seconde et temps jusqu’au premier fragment, qui exclut le raisonnement. AA évalue chaque modèle à son propre effort de référence — Max pour GLM-5.3 et DeepSeek V4.1 Flash 1017, High pour GPT-OSS 120B, une seule configuration pour GLM-5.3-Flash — les fournisseurs sont donc classés dans un modèle et jamais entre modèles. Fireworks n’a pas de ligne AA sur GLM-5.3 malgré sa commercialisation, il n’apparaît donc que là où AA le mesure.

Débit de sortie de GLM-5.3

Six hôtes nommés, un leader net. Le palier Fast de Baseten est une référence distincte et plus chère à $2.10/$6.60, non comparable en coût aux routes standard à $1.40/$4.40.

Faites glisser pour voir toutes les colonnes

FournisseurDébit de sortie (tokens/s)Premier fragment (s)Endpoint Accuracy Index v1.0Tarif entrée / sortie par 1M
Baseten (Fast)15283.40.9094.18%$2.10 / $6.605
Together AI116164.30.6796.39%$1.40 / $4.4016
Baseten15150.42.6095.54%$1.40 / $4.405
Novita AI16105.52.5195.62%$1.40 / $4.406
Z.ai11898.22.3998.74%$1.40 / $4.4018
DeepInfra11797.10.9798.6%$0.90 / $4.0017
Débit de sortie par fournisseur · GLM-5.3 (tokens/s)
Baseten (Fast)283.4
Together AI164.3
Baseten150.4
Novita AI105.5
Z.ai98.2
DeepInfra97.1
Les barres sont mises à l’échelle dans chaque modèle ; l’hôte le plus rapide d’un modèle n’est pas comparable à celui d’un autre, les réglages d’effort d’AA différant.

L’Endpoint Accuracy Index n’est publié que pour GLM-5.3 et GPT-OSS 120B parmi ces quatre modèles ; DeepSeek V4.1 Flash 1017 et GLM-5.3-Flash n’ont pas encore de valeur de précision AA.

Débit de sortie de DeepSeek V4.1 Flash 1017

Sept hôtes et le plus grand écart des trois modèles actuels : le plus rapide est 12.8× le plus lent, sur le même modèle et la même configuration AA.

Faites glisser pour voir toutes les colonnes

FournisseurDébit de sortie (tokens/s)Premier fragment (s)Endpoint Accuracy Index v1.0Tarif entrée / sortie par 1M
Baseten (Fast)25837.10.21—$0.60 / $2.405
Together AI216365.00.32—$0.30 / $1.2016
Baseten25281.10.27—$0.30 / $1.205
Fireworks215210.41.15—$0.30 / $1.2015
DeepSeek211169.01.19—$0.30 / $1.2011
Novita AI27158.01.43—$0.30 / $1.207
DeepInfra21765.30.72—$0.20 / $0.6017
Débit de sortie par fournisseur · DeepSeek V4.1 Flash 1017 (tokens/s)
Baseten (Fast)837.1
Together AI365.0
Baseten281.1
Fireworks210.4
DeepSeek169.0
Novita AI158.0
DeepInfra65.3
Les barres sont mises à l’échelle dans chaque modèle ; l’hôte le plus rapide d’un modèle n’est pas comparable à celui d’un autre, les réglages d’effort d’AA différant.

L’Endpoint Accuracy Index n’est publié que pour GLM-5.3 et GPT-OSS 120B parmi ces quatre modèles ; DeepSeek V4.1 Flash 1017 et GLM-5.3-Flash n’ont pas encore de valeur de précision AA.

Débit de sortie de GLM-5.3-Flash

Sept hôtes, et le seul modèle actuel où AA mesure CoreWeave. Ses 292.4 tokens/s sont les plus rapides des sept hôtes de ce tableau.

Faites glisser pour voir toutes les colonnes

FournisseurDébit de sortie (tokens/s)Premier fragment (s)Endpoint Accuracy Index v1.0Tarif entrée / sortie par 1M
CoreWeave314292.41.38—$0.15 / $0.5014
Together AI316190.10.70—$0.15 / $0.5016
Fireworks315167.23.16—$0.15 / $0.5015
Baseten35147.40.41—$0.15 / $0.505
Novita AI3894.34.00—$0.15 / $0.508
Z.ai31873.52.84—$0.15 / $0.5018
DeepInfra31757.20.83—$0.15 / $0.5017
Débit de sortie par fournisseur · GLM-5.3-Flash (tokens/s)
CoreWeave292.4
Together AI190.1
Fireworks167.2
Baseten147.4
Novita AI94.3
Z.ai73.5
DeepInfra57.2
Les barres sont mises à l’échelle dans chaque modèle ; l’hôte le plus rapide d’un modèle n’est pas comparable à celui d’un autre, les réglages d’effort d’AA différant.

L’Endpoint Accuracy Index n’est publié que pour GLM-5.3 et GPT-OSS 120B parmi ces quatre modèles ; DeepSeek V4.1 Flash 1017 et GLM-5.3-Flash n’ont pas encore de valeur de précision AA.

Référence GPT-OSS 120B : où Groq, Cerebras et SambaNova figurent encore

Groq, Cerebras et SambaNova ne servent aucun des trois modèles actuels ci-dessus, d’où le maintien de la référence GPT-OSS 120B de 2025 : c’est le seul modèle où AA mesure les trois.

Faites glisser pour voir toutes les colonnes

FournisseurDébit de sortie (tokens/s)Premier fragment (s)Endpoint Accuracy Index v1.0Tarif entrée / sortie par 1M
Cerebras4121,693.70.3887%$0.35 / $0.7512
SambaNova413701.21.1898%$0.22 / $0.5913
Groq410473.40.6386%$0.15 / $0.6010
Novita AI49238.90.9291%$0.05 / $0.259
Together AI416169.40.5377%$0.15 / $0.6016
CoreWeave41498.31.4098%$0.03 / $0.1714
DeepInfra41756.60.6297%$0.037 / $0.1717
Débit de sortie par fournisseur · GPT-OSS 120B (tokens/s)
Cerebras1,693.7
SambaNova701.2
Groq473.4
Novita AI238.9
Together AI169.4
CoreWeave98.3
DeepInfra56.6
Les barres sont mises à l’échelle dans chaque modèle ; l’hôte le plus rapide d’un modèle n’est pas comparable à celui d’un autre, les réglages d’effort d’AA différant.

Fournisseur par fournisseur sur les modèles actuels

Les fiches suivent le meilleur débit de sortie de chaque fournisseur sur l’un des trois modèles actuels. Un tiret signifie que le fournisseur n’est pas mesuré sur ce modèle ; Groq, Cerebras et SambaNova n’apparaissent que dans la référence GPT-OSS 120B.

  1. Baseten

    Le plus rapide sur GLM-5.3 et DeepSeek V4.1 Flash 1017 grâce à son palier Fast, plus cher.1235

    GLM-5.3 tokens/s
    150.4
    DeepSeek V4.1 Flash 1017 tokens/s
    281.1
    GLM-5.3-Flash tokens/s
    147.4

    Points forts

    Son palier Fast fait tourner GLM-5.3 à 283.4 tokens/s avec un premier fragment en 0.90 s et DeepSeek V4.1 Flash 1017 à 837.1 tokens/s avec 0.21 s, le démarrage le plus rapide mesuré sur un modèle actuel ici.1235

    Limites

    Le palier Fast coûte plus cher que le standard — $2.10/$6.60 contre $1.40/$4.40 sur GLM-5.3 — et obtient une Endpoint Accuracy plus faible (94.18 contre 95.54 pour le standard).1235

    1235

  2. Together AI

    L’hôte le plus régulier : deuxième en débit de sortie sur les trois modèles actuels.12316

    GLM-5.3 tokens/s
    164.3
    DeepSeek V4.1 Flash 1017 tokens/s
    365.0
    GLM-5.3-Flash tokens/s
    190.1

    Points forts

    Il fait tourner GLM-5.3 à 164.3 tokens/s avec le premier fragment le plus court de ce modèle, 0.67 s, et DeepSeek V4.1 Flash 1017 à 365.0 tokens/s.12316

    Limites

    Il ne mène jamais en débit de sortie : le palier Fast de Baseten est plus rapide sur GLM-5.3 et DeepSeek V4.1 Flash 1017, et son Endpoint Accuracy sur GLM-5.3, 96.39, reste sous DeepInfra et Z.ai.12316

    12316

  3. CoreWeave

    Le plus rapide des sept hôtes GLM-5.3-Flash de cette page, et la seule mesure de CoreWeave sur un modèle actuel.314

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    292.4

    Points forts

    Ses 292.4 tokens/s sur GLM-5.3-Flash font 1.5× les 190.1 de Together AI et 3.1× les 94.3 de Novita AI, sur la seule route du modèle mesurée par AA chez CoreWeave.314

    Limites

    Il n’a aucune ligne AA sur GLM-5.3 ni sur DeepSeek V4.1 Flash 1017, et son premier fragment sur GLM-5.3-Flash, 1.38 s, fait 3.4× les 0.41 s de Baseten.314

    314

  4. Fireworks

    Dans la moyenne sur les deux modèles où AA le mesure, avec un premier fragment long sur GLM-5.3-Flash.2315

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    210.4
    GLM-5.3-Flash tokens/s
    167.2

    Points forts

    Il fait tourner DeepSeek V4.1 Flash 1017 à 210.4 tokens/s, devant DeepSeek lui-même à 169.0 et Novita AI à 158.0.2315

    Limites

    Son premier fragment sur GLM-5.3-Flash, 3.16 s, n’est dépassé que par les 4.00 s de Novita AI parmi les sept hôtes mesurés, et AA n’a aucune ligne GLM-5.3 pour lui.2315

    2315

  5. Novita AI

    Mesuré sur les quatre modèles, mais quatrième, sixième et cinquième sur les trois actuels.123678

    GLM-5.3 tokens/s
    105.5
    DeepSeek V4.1 Flash 1017 tokens/s
    158.0
    GLM-5.3-Flash tokens/s
    94.3

    Points forts

    C’est l’un des trois hôtes mesurés sur les quatre modèles, avec Together AI et DeepInfra, et ses 238.9 tokens/s sur GPT-OSS 120B le placent quatrième sur sept.123678

    Limites

    Il fait tourner GLM-5.3 à 105.5 tokens/s contre 283.4 pour le palier Fast de Baseten, DeepSeek V4.1 Flash 1017 à 158.0 contre 837.1, et GLM-5.3-Flash à 94.3 avec le premier fragment le plus long du modèle, 4.00 s.123678

    123678

  6. Z.ai

    En fin de peloton sur la vitesse de GLM-5.3 mais premier sur la précision : le plus haut Endpoint Accuracy Index de ce modèle.1318

    GLM-5.3 tokens/s
    98.2
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    73.5

    Points forts

    Son Endpoint Accuracy Index de 98.74 % sur GLM-5.3 est le plus élevé des six hôtes mesurés, 3.12 points au-dessus de Novita AI.1318

    Limites

    Il fait tourner GLM-5.3 à 98.2 tokens/s, cinquième sur six et 60 % des 164.3 de Together AI, avec 2.39 s jusqu’au premier fragment.1318

    1318

  7. DeepInfra

    L’hôte le plus précis sur GLM-5.3 après Z.ai, et le plus lent sur DeepSeek V4.1 Flash 1017.12317

    GLM-5.3 tokens/s
    97.1
    DeepSeek V4.1 Flash 1017 tokens/s
    65.3
    GLM-5.3-Flash tokens/s
    57.2

    Points forts

    Son Endpoint Accuracy Index de 98.6 % sur GLM-5.3 n’est devancé que par Z.ai, et son premier fragment de 0.97 s est le troisième plus court de ce modèle.12317

    Limites

    Ses 65.3 tokens/s sur DeepSeek V4.1 Flash 1017 sont les plus lents des sept hôtes, 12.8× derrière le palier Fast de Baseten, et son tarif catalogue de $0.20/$0.60 sur ce modèle porte une promotion en cours à $0.098/$0.294.12317

    12317

Méthodologie et sources

Les débits et premiers fragments sont des médianes de fournisseur Artificial Analysis issues d’un relevé par modèle, toutes sur 10 000 tokens d’entrée ; le premier fragment exclut le temps de raisonnement et mesure donc la file et le prefill, pas la réflexion. L’Endpoint Accuracy Index v1.0 est exprimé par rapport à un endpoint de référence et n’existe ici que pour GLM-5.3 et GPT-OSS 120B. Les prix sont les tarifs serverless standard entrée/sortie des fournisseurs, hors remises de cache.

Les médianes ne sont pas des garanties : un hôte peut gagner ou perdre plusieurs places entre deux relevés, et le routage géographique, les paliers par lots et la charge de pointe déplacent les chiffres. Cette page ne classe que des hôtes mesurés et n’avance aucune affirmation de vitesse fournisseur qu’AA n’étaye pas. Novita AI la publie à partir de sources publiques, sans benchmark privé de charge.

Les fournisseurs sont classés à l’intérieur de chaque modèle selon la médiane de débit de sortie d’AA, jamais entre modèles, car l’effort de référence d’AA diffère : Max pour GLM-5.3 et DeepSeek V4.1 Flash 1017, High pour GPT-OSS 120B et une configuration pour GLM-5.3-Flash. Les ex æquo conservent l’ordre d’AA. Les fiches suivent le meilleur débit de chaque fournisseur sur un modèle actuel, si bien qu’un hôte qui mène un modèle peut dépasser un autre plus régulier.1234

  1. Artificial Analysis · GLM-5.3 providers
  2. Artificial Analysis · DeepSeek V4.1 Flash 1017 providers
  3. Artificial Analysis · GLM-5.3-Flash providers
  4. Artificial Analysis · GPT-OSS 120B providers
  5. Baseten · pricing
  6. Novita AI · GLM-5.3
  7. Novita AI · DeepSeek V4.1 Flash 1017
  8. Novita AI · GLM-5.3-Flash
  9. Novita AI · GPT-OSS 120B
  10. Groq · GPT-OSS 120B
  11. DeepSeek · API pricing
  12. Cerebras · pricing
  13. SambaNova · model token prices
  14. CoreWeave · Forge token prices
  15. Fireworks · serverless pricing
  16. Together AI · pricing
  17. DeepInfra · GLM-5.3
  18. Z.ai · pricing

Développez avec Novita Model APIs

Créez une clé API et connectez votre application.

Commencez à développerExplorez les modèles