Schnellste LLM-API: Geschwindigkeit pro Modell, nicht pro Anbieter

Die Geschwindigkeit hängt vom Modell ab, nicht nur vom Anbieter. Basetens Fast-Stufe führt DeepSeek V4.1 Flash 1017 mit 837.1 tokens/s und einem ersten Fragment nach 0.21 s an und GLM-5.3 mit 283.4 tokens/s; CoreWeave führt GLM-5.3-Flash mit 292.4 tokens/s an, und Cerebras führt weiterhin die GPT-OSS 120B-Referenz mit 1,693.7 tokens/s an. Novita AI liegt bei jedem aktuellen Modell auf Platz vier oder schlechter.

Aktualisiert · 18 Quellen · Methodik

BedarfEmpfehlungBegründung
Schnellster · GLM-5.3Baseten (Fast)283.4 tokens/s, erstes Fragment nach 0.90 s1
Schnellster · DeepSeek V4.1 Flash 1017Baseten (Fast)837.1 tokens/s, erstes Fragment nach 0.21 s2
Schnellster · GLM-5.3-FlashCoreWeave292.4 tokens/s, erstes Fragment nach 1.38 s3
Schnellster · GPT-OSS 120B-ReferenzCerebras1,693.7 tokens/s, erstes Fragment nach 0.38 s4
Kürzestes erstes Fragment · DeepSeek V4.1 Flash 1017Baseten (Fast)0.21 s, gegenüber 0.27 s auf Basetens Standard-Stufe2
Höchste Genauigkeit · GLM-5.3Z.ai98.74 %, 3.12 Punkte über Novita AI118

So sind diese Ranglisten zu lesen

Alle Werte sind Anbieter-Mediane von Artificial Analysis (AA) bei 10.000 Eingabe-Token: Ausgabegeschwindigkeit in Token pro Sekunde und Zeit bis zum ersten Fragment, die die Denkzeit ausschließt. AA bewertet jedes Modell mit seinem eigenen Referenzaufwand — Max bei GLM-5.3 und DeepSeek V4.1 Flash 1017, High bei GPT-OSS 120B, eine einzige Konfiguration bei GLM-5.3-Flash —, daher werden Anbieter innerhalb eines Modells und nie modellübergreifend gereiht. Fireworks hat trotz Vertrieb keine AA-Zeile für GLM-5.3 und erscheint nur dort, wo AA es misst.

Ausgabegeschwindigkeit von GLM-5.3

Sechs benannte Hosts, ein klarer Spitzenreiter. Basetens Fast-Stufe ist eine eigene, teurere SKU zu $2.10/$6.60 und kostenseitig nicht mit den Standard-Routen zu $1.40/$4.40 vergleichbar.

Wischen, um alle Spalten zu sehen

AnbieterAusgabegeschwindigkeit (tokens/s)Erstes Fragment (s)Endpoint Accuracy Index v1.0Preis ein / aus je 1M
Baseten (Fast)15283.40.9094.18%$2.10 / $6.605
Together AI116164.30.6796.39%$1.40 / $4.4016
Baseten15150.42.6095.54%$1.40 / $4.405
Novita AI16105.52.5195.62%$1.40 / $4.406
Z.ai11898.22.3998.74%$1.40 / $4.4018
DeepInfra11797.10.9798.6%$0.90 / $4.0017
Ausgabegeschwindigkeit je Anbieter · GLM-5.3 (tokens/s)
Baseten (Fast)283.4
Together AI164.3
Baseten150.4
Novita AI105.5
Z.ai98.2
DeepInfra97.1
Die Balken sind innerhalb jedes Modells skaliert; der schnellste Host eines Modells ist nicht mit dem eines anderen vergleichbar, weil AA-Aufwandseinstellungen abweichen.

Der Endpoint Accuracy Index wird unter diesen vier Modellen nur für GLM-5.3 und GPT-OSS 120B veröffentlicht; DeepSeek V4.1 Flash 1017 und GLM-5.3-Flash haben noch keinen AA-Genauigkeitswert.

Ausgabegeschwindigkeit von DeepSeek V4.1 Flash 1017

Sieben Hosts und die größte Spanne der drei aktuellen Modelle: der schnellste ist 12.8× der langsamste, beim selben Modell und derselben AA-Konfiguration.

Wischen, um alle Spalten zu sehen

AnbieterAusgabegeschwindigkeit (tokens/s)Erstes Fragment (s)Endpoint Accuracy Index v1.0Preis ein / aus je 1M
Baseten (Fast)25837.10.21—$0.60 / $2.405
Together AI216365.00.32—$0.30 / $1.2016
Baseten25281.10.27—$0.30 / $1.205
Fireworks215210.41.15—$0.30 / $1.2015
DeepSeek211169.01.19—$0.30 / $1.2011
Novita AI27158.01.43—$0.30 / $1.207
DeepInfra21765.30.72—$0.20 / $0.6017
Ausgabegeschwindigkeit je Anbieter · DeepSeek V4.1 Flash 1017 (tokens/s)
Baseten (Fast)837.1
Together AI365.0
Baseten281.1
Fireworks210.4
DeepSeek169.0
Novita AI158.0
DeepInfra65.3
Die Balken sind innerhalb jedes Modells skaliert; der schnellste Host eines Modells ist nicht mit dem eines anderen vergleichbar, weil AA-Aufwandseinstellungen abweichen.

Der Endpoint Accuracy Index wird unter diesen vier Modellen nur für GLM-5.3 und GPT-OSS 120B veröffentlicht; DeepSeek V4.1 Flash 1017 und GLM-5.3-Flash haben noch keinen AA-Genauigkeitswert.

Ausgabegeschwindigkeit von GLM-5.3-Flash

Sieben Hosts, und das einzige aktuelle Modell, bei dem AA CoreWeave misst. CoreWeaves 292.4 tokens/s sind die schnellsten der sieben Hosts in dieser Tabelle.

Wischen, um alle Spalten zu sehen

AnbieterAusgabegeschwindigkeit (tokens/s)Erstes Fragment (s)Endpoint Accuracy Index v1.0Preis ein / aus je 1M
CoreWeave314292.41.38—$0.15 / $0.5014
Together AI316190.10.70—$0.15 / $0.5016
Fireworks315167.23.16—$0.15 / $0.5015
Baseten35147.40.41—$0.15 / $0.505
Novita AI3894.34.00—$0.15 / $0.508
Z.ai31873.52.84—$0.15 / $0.5018
DeepInfra31757.20.83—$0.15 / $0.5017
Ausgabegeschwindigkeit je Anbieter · GLM-5.3-Flash (tokens/s)
CoreWeave292.4
Together AI190.1
Fireworks167.2
Baseten147.4
Novita AI94.3
Z.ai73.5
DeepInfra57.2
Die Balken sind innerhalb jedes Modells skaliert; der schnellste Host eines Modells ist nicht mit dem eines anderen vergleichbar, weil AA-Aufwandseinstellungen abweichen.

Der Endpoint Accuracy Index wird unter diesen vier Modellen nur für GLM-5.3 und GPT-OSS 120B veröffentlicht; DeepSeek V4.1 Flash 1017 und GLM-5.3-Flash haben noch keinen AA-Genauigkeitswert.

GPT-OSS 120B-Referenz: wo Groq, Cerebras und SambaNova noch stehen

Groq, Cerebras und SambaNova bieten keines der drei aktuellen Modelle oben an, deshalb bleibt die GPT-OSS 120B-Referenz von 2025: Sie ist das einzige Modell, bei dem AA alle drei misst.

Wischen, um alle Spalten zu sehen

AnbieterAusgabegeschwindigkeit (tokens/s)Erstes Fragment (s)Endpoint Accuracy Index v1.0Preis ein / aus je 1M
Cerebras4121,693.70.3887%$0.35 / $0.7512
SambaNova413701.21.1898%$0.22 / $0.5913
Groq410473.40.6386%$0.15 / $0.6010
Novita AI49238.90.9291%$0.05 / $0.259
Together AI416169.40.5377%$0.15 / $0.6016
CoreWeave41498.31.4098%$0.03 / $0.1714
DeepInfra41756.60.6297%$0.037 / $0.1717
Ausgabegeschwindigkeit je Anbieter · GPT-OSS 120B (tokens/s)
Cerebras1,693.7
SambaNova701.2
Groq473.4
Novita AI238.9
Together AI169.4
CoreWeave98.3
DeepInfra56.6
Die Balken sind innerhalb jedes Modells skaliert; der schnellste Host eines Modells ist nicht mit dem eines anderen vergleichbar, weil AA-Aufwandseinstellungen abweichen.

Anbieter für Anbieter über die aktuellen Modelle

Die Karten folgen der besten Ausgabegeschwindigkeit jedes Anbieters bei einem der drei aktuellen Modelle. Ein Strich bedeutet, dass der Anbieter bei diesem Modell nicht gemessen wird; Groq, Cerebras und SambaNova erscheinen nur in der GPT-OSS 120B-Referenz.

  1. Baseten

    Der Schnellste bei GLM-5.3 und DeepSeek V4.1 Flash 1017, über seine teurere Fast-Stufe.1235

    GLM-5.3 tokens/s
    150.4
    DeepSeek V4.1 Flash 1017 tokens/s
    281.1
    GLM-5.3-Flash tokens/s
    147.4

    Stärken

    Seine Fast-Stufe fährt GLM-5.3 mit 283.4 tokens/s und einem ersten Fragment nach 0.90 s sowie DeepSeek V4.1 Flash 1017 mit 837.1 tokens/s und 0.21 s — der schnellste gemessene Start bei einem aktuellen Modell hier.1235

    Einschränkungen

    Die Fast-Stufe kostet mehr als die Standard-Stufe — $2.10/$6.60 gegenüber $1.40/$4.40 bei GLM-5.3 — und erreicht eine niedrigere Endpoint Accuracy (94.18 gegenüber 95.54 der Standard-Stufe).1235

    1235

  2. Together AI

    Der beständigste Host hier: Zweiter bei der Ausgabegeschwindigkeit auf allen drei aktuellen Modellen.12316

    GLM-5.3 tokens/s
    164.3
    DeepSeek V4.1 Flash 1017 tokens/s
    365.0
    GLM-5.3-Flash tokens/s
    190.1

    Stärken

    Er fährt GLM-5.3 mit 164.3 tokens/s und dem kürzesten ersten Fragment dieses Modells von 0.67 s und DeepSeek V4.1 Flash 1017 mit 365.0 tokens/s.12316

    Einschränkungen

    Bei der Ausgabegeschwindigkeit führt er nie: Basetens Fast-Stufe ist bei GLM-5.3 und DeepSeek V4.1 Flash 1017 schneller, und seine Endpoint Accuracy bei GLM-5.3, 96.39, liegt unter DeepInfra und Z.ai.12316

    12316

  3. CoreWeave

    Der schnellste der sieben GLM-5.3-Flash-Hosts hier und die einzige Messung für CoreWeave bei einem aktuellen Modell.314

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    292.4

    Stärken

    Seine 292.4 tokens/s bei GLM-5.3-Flash sind 1.5× die 190.1 von Together AI und 3.1× die 94.3 von Novita AI, auf der einzigen von AA gemessenen Route des Modells bei CoreWeave.314

    Einschränkungen

    Es gibt keine AA-Zeile für GLM-5.3 oder DeepSeek V4.1 Flash 1017, und sein erstes Fragment bei GLM-5.3-Flash, 1.38 s, ist 3.4× die 0.41 s von Baseten.314

    314

  4. Fireworks

    Mittelfeld bei beiden Modellen, die AA misst, mit einem langen ersten Fragment bei GLM-5.3-Flash.2315

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    210.4
    GLM-5.3-Flash tokens/s
    167.2

    Stärken

    Er fährt DeepSeek V4.1 Flash 1017 mit 210.4 tokens/s, vor DeepSeek selbst mit 169.0 und Novita AI mit 158.0.2315

    Einschränkungen

    Sein erstes Fragment bei GLM-5.3-Flash von 3.16 s wird unter den sieben gemessenen Hosts nur von Novita AIs 4.00 s übertroffen, und AA hat für ihn gar keine GLM-5.3-Zeile.2315

    2315

  5. Novita AI

    Bei allen vier Modellen gemessen, aber Vierter, Sechster und Fünfter bei den drei aktuellen.123678

    GLM-5.3 tokens/s
    105.5
    DeepSeek V4.1 Flash 1017 tokens/s
    158.0
    GLM-5.3-Flash tokens/s
    94.3

    Stärken

    Es ist neben Together AI und DeepInfra einer von drei Hosts, die bei allen vier Modellen gemessen werden, und seine 238.9 tokens/s bei GPT-OSS 120B bedeuten Platz vier von sieben.123678

    Einschränkungen

    Er fährt GLM-5.3 mit 105.5 tokens/s gegenüber 283.4 der Fast-Stufe von Baseten, DeepSeek V4.1 Flash 1017 mit 158.0 gegenüber 837.1 und GLM-5.3-Flash mit 94.3 bei dem mit 4.00 s längsten ersten Fragment des Modells.123678

    123678

  6. Z.ai

    Hinten bei der GLM-5.3-Geschwindigkeit, aber vorn bei der Genauigkeit: der höchste Endpoint Accuracy Index dieses Modells.1318

    GLM-5.3 tokens/s
    98.2
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    73.5

    Stärken

    Sein Endpoint Accuracy Index von 98.74 % bei GLM-5.3 ist der höchste der sechs gemessenen Hosts, 3.12 Punkte über Novita AI.1318

    Einschränkungen

    Er fährt GLM-5.3 mit 98.2 tokens/s, Fünfter von sechs und 60 % der 164.3 von Together AI, und braucht 2.39 s bis zum ersten Fragment.1318

    1318

  7. DeepInfra

    Der genaueste Host bei GLM-5.3 nach Z.ai und der langsamste bei DeepSeek V4.1 Flash 1017.12317

    GLM-5.3 tokens/s
    97.1
    DeepSeek V4.1 Flash 1017 tokens/s
    65.3
    GLM-5.3-Flash tokens/s
    57.2

    Stärken

    Sein Endpoint Accuracy Index von 98.6 % bei GLM-5.3 wird nur von Z.ai übertroffen, und sein erstes Fragment von 0.97 s ist das drittkürzeste dieses Modells.12317

    Einschränkungen

    Seine 65.3 tokens/s bei DeepSeek V4.1 Flash 1017 sind die langsamsten der sieben Hosts, 12.8× hinter Basetens Fast-Stufe, und sein Listenpreis von $0.20/$0.60 für dieses Modell trägt eine aktuelle Aktion zu $0.098/$0.294.12317

    12317

Methodik und Quellen

Geschwindigkeit und erstes Fragment sind Anbieter-Mediane von Artificial Analysis aus je einem Stand pro Modell, alle bei 10.000 Eingabe-Token; das erste Fragment schließt die Denkzeit aus und misst damit Warteschlange und Prefill, nicht Denken. Der Endpoint Accuracy Index v1.0 ist relativ zu einem Referenz-Endpunkt angegeben und existiert hier nur für GLM-5.3 und GPT-OSS 120B. Die Preise sind die Standard-Serverless-Sätze der Anbieter für Ein- und Ausgabe, ohne Cache-Rabatte.

Mediane sind keine Garantien: Ein Host kann zwischen zwei Ständen mehrere Plätze wandern, und Geo-Routing, Batch-Stufen und Spitzenlast verschieben die Zahlen. Diese Seite reiht nur gemessene Hosts und erhebt keine Geschwindigkeitsaussage über Anbieter, die AA nicht stützt. Novita AI veröffentlicht sie aus öffentlichen Quellen, ohne eigenen Workload-Benchmark.

Die Anbieter werden innerhalb jedes Modells nach dem AA-Median der Ausgabegeschwindigkeit gereiht, nie modellübergreifend, weil AA’s Referenzaufwand abweicht: Max bei GLM-5.3 und DeepSeek V4.1 Flash 1017, High bei GPT-OSS 120B und eine Konfiguration bei GLM-5.3-Flash. Gleichstände behalten die AA-Reihenfolge. Die Karten folgen der besten Geschwindigkeit jedes Anbieters bei einem aktuellen Modell, weshalb ein Host, der ein Modell anführt, über einem beständigeren stehen kann.1234

  1. Artificial Analysis · GLM-5.3 providers
  2. Artificial Analysis · DeepSeek V4.1 Flash 1017 providers
  3. Artificial Analysis · GLM-5.3-Flash providers
  4. Artificial Analysis · GPT-OSS 120B providers
  5. Baseten · pricing
  6. Novita AI · GLM-5.3
  7. Novita AI · DeepSeek V4.1 Flash 1017
  8. Novita AI · GLM-5.3-Flash
  9. Novita AI · GPT-OSS 120B
  10. Groq · GPT-OSS 120B
  11. DeepSeek · API pricing
  12. Cerebras · pricing
  13. SambaNova · model token prices
  14. CoreWeave · Forge token prices
  15. Fireworks · serverless pricing
  16. Together AI · pricing
  17. DeepInfra · GLM-5.3
  18. Z.ai · pricing

Mit Novita Model APIs entwickeln

Erstellen Sie einen API-Schlüssel und verbinden Sie Ihre Anwendung.

Jetzt entwickelnModelle ansehen