最速のLLM API：ベンダー別ではなくモデル別の出力速度

速度はベンダーだけでなくモデルにも左右されます。BasetenのFast階層はDeepSeek V4.1 Flash 1017を837.1 tokens/s、最初のチャンク0.21 sでリードし、GLM-5.3では283.4 tokens/sです。GLM-5.3-FlashはCoreWeaveが292.4 tokens/sでリードし、GPT-OSS 120Bの基準値はCerebrasが1,693.7 tokens/sで依然トップです。Novita AIは現行モデルのいずれでも4位以下です。

更新日 · 18 出典 · 比較方法

用途推奨理由
最速 · GLM-5.3Baseten (Fast)283.4 tokens/s、最初のチャンク0.90 s1
最速 · DeepSeek V4.1 Flash 1017Baseten (Fast)837.1 tokens/s、最初のチャンク0.21 s2
最速 · GLM-5.3-FlashCoreWeave292.4 tokens/s、最初のチャンク1.38 s3
最速 · GPT-OSS 120B基準値Cerebras1,693.7 tokens/s、最初のチャンク0.38 s4
最初のチャンクが最短 · DeepSeek V4.1 Flash 1017Baseten (Fast)0.21 s、Basetenの標準階層では0.27 s2
精度が最高 · GLM-5.3Z.ai98.74%、Novita AIより3.12ポイント高い118

このランキングの読み方

すべての値はArtificial Analysis（AA）のプロバイダー中央値で、入力10,000トークン時点のものです。出力速度はtokens/s、最初のチャンクまでの時間は推論時間を除きます。AAは各モデルをそれぞれの基準推論強度で測定しており、GLM-5.3とDeepSeek V4.1 Flash 1017はMax、GPT-OSS 120BはHigh、GLM-5.3-Flashは単一構成です。そのためプロバイダーはモデル内でのみ順位づけし、モデル間では比較しません。FireworksはGLM-5.3を取り扱いながらAAの行がないため、AAが測定しているモデルにのみ登場します。

GLM-5.3の出力速度

名前のある6ホストでリーダーは明確です。BasetenのFast階層は$2.10/$6.60の別SKUで、標準ルートの$1.40/$4.40とはコスト面で比較できません。

横にスワイプしてすべての列を表示

提供元出力速度（tokens/s）最初のチャンク（s）Endpoint Accuracy Index v1.0入力 / 出力（1Mあたり）
Baseten (Fast)15283.40.9094.18%$2.10 / $6.605
Together AI116164.30.6796.39%$1.40 / $4.4016
Baseten15150.42.6095.54%$1.40 / $4.405
Novita AI16105.52.5195.62%$1.40 / $4.406
Z.ai11898.22.3998.74%$1.40 / $4.4018
DeepInfra11797.10.9798.6%$0.90 / $4.0017
プロバイダー別の出力速度 · GLM-5.3（tokens/s）
Baseten (Fast)283.4
Together AI164.3
Baseten150.4
Novita AI105.5
Z.ai98.2
DeepInfra97.1
棒はモデルごとにスケーリングしています。AAの推論強度設定が異なるため、あるモデルの最速ホストと別モデルの最速ホストは比較できません。

Endpoint Accuracy Indexは、この4モデルではGLM-5.3とGPT-OSS 120Bにのみ公開されています。DeepSeek V4.1 Flash 1017とGLM-5.3-FlashにはまだAAの精度値がありません。

DeepSeek V4.1 Flash 1017の出力速度

7ホストで、現行3モデルの中で最大の開きがあります。同じモデル、同じAA構成で、最速は最遅の12.8倍です。

横にスワイプしてすべての列を表示

提供元出力速度（tokens/s）最初のチャンク（s）Endpoint Accuracy Index v1.0入力 / 出力（1Mあたり）
Baseten (Fast)25837.10.21—$0.60 / $2.405
Together AI216365.00.32—$0.30 / $1.2016
Baseten25281.10.27—$0.30 / $1.205
Fireworks215210.41.15—$0.30 / $1.2015
DeepSeek211169.01.19—$0.30 / $1.2011
Novita AI27158.01.43—$0.30 / $1.207
DeepInfra21765.30.72—$0.20 / $0.6017
プロバイダー別の出力速度 · DeepSeek V4.1 Flash 1017（tokens/s）
Baseten (Fast)837.1
Together AI365.0
Baseten281.1
Fireworks210.4
DeepSeek169.0
Novita AI158.0
DeepInfra65.3
棒はモデルごとにスケーリングしています。AAの推論強度設定が異なるため、あるモデルの最速ホストと別モデルの最速ホストは比較できません。

Endpoint Accuracy Indexは、この4モデルではGLM-5.3とGPT-OSS 120Bにのみ公開されています。DeepSeek V4.1 Flash 1017とGLM-5.3-FlashにはまだAAの精度値がありません。

GLM-5.3-Flashの出力速度

7ホストで、AAがCoreWeaveを測定している唯一の現行モデルです。CoreWeaveの292.4 tokens/sはこの表の7ホストで最速です。

横にスワイプしてすべての列を表示

提供元出力速度（tokens/s）最初のチャンク（s）Endpoint Accuracy Index v1.0入力 / 出力（1Mあたり）
CoreWeave314292.41.38—$0.15 / $0.5014
Together AI316190.10.70—$0.15 / $0.5016
Fireworks315167.23.16—$0.15 / $0.5015
Baseten35147.40.41—$0.15 / $0.505
Novita AI3894.34.00—$0.15 / $0.508
Z.ai31873.52.84—$0.15 / $0.5018
DeepInfra31757.20.83—$0.15 / $0.5017
プロバイダー別の出力速度 · GLM-5.3-Flash（tokens/s）
CoreWeave292.4
Together AI190.1
Fireworks167.2
Baseten147.4
Novita AI94.3
Z.ai73.5
DeepInfra57.2
棒はモデルごとにスケーリングしています。AAの推論強度設定が異なるため、あるモデルの最速ホストと別モデルの最速ホストは比較できません。

Endpoint Accuracy Indexは、この4モデルではGLM-5.3とGPT-OSS 120Bにのみ公開されています。DeepSeek V4.1 Flash 1017とGLM-5.3-FlashにはまだAAの精度値がありません。

GPT-OSS 120Bの基準値：Groq、Cerebras、SambaNovaが残る理由

Groq、Cerebras、SambaNovaは上記の現行3モデルをいずれも提供していないため、2025年のGPT-OSS 120B基準値が残ります。AAが3社すべてを測定している唯一のモデルだからです。

横にスワイプしてすべての列を表示

提供元出力速度（tokens/s）最初のチャンク（s）Endpoint Accuracy Index v1.0入力 / 出力（1Mあたり）
Cerebras4121,693.70.3887%$0.35 / $0.7512
SambaNova413701.21.1898%$0.22 / $0.5913
Groq410473.40.6386%$0.15 / $0.6010
Novita AI49238.90.9291%$0.05 / $0.259
Together AI416169.40.5377%$0.15 / $0.6016
CoreWeave41498.31.4098%$0.03 / $0.1714
DeepInfra41756.60.6297%$0.037 / $0.1717
プロバイダー別の出力速度 · GPT-OSS 120B（tokens/s）
Cerebras1,693.7
SambaNova701.2
Groq473.4
Novita AI238.9
Together AI169.4
CoreWeave98.3
DeepInfra56.6
棒はモデルごとにスケーリングしています。AAの推論強度設定が異なるため、あるモデルの最速ホストと別モデルの最速ホストは比較できません。

現行モデルごとのプロバイダー比較

カードは、現行3モデルのいずれかで各プロバイダーが記録した最高出力速度の順に並べています。ダッシュはそのモデルで測定がないことを示し、Groq、Cerebras、SambaNovaはGPT-OSS 120Bの基準値にのみ登場します。

  1. Baseten

    より高額なFast階層で、GLM-5.3とDeepSeek V4.1 Flash 1017の両方で最速。1235

    GLM-5.3 tokens/s
    150.4
    DeepSeek V4.1 Flash 1017 tokens/s
    281.1
    GLM-5.3-Flash tokens/s
    147.4

    強み

    Fast階層はGLM-5.3を283.4 tokens/s、最初のチャンク0.90 sで動かし、DeepSeek V4.1 Flash 1017を837.1 tokens/s、0.21 sで動かします。現行モデルで測定された最速の立ち上がりです。1235

    制約

    Fast階層は標準階層より高く、GLM-5.3では$2.10/$6.60対$1.40/$4.40です。Endpoint Accuracyも標準階層の95.54に対し94.18と低くなります。1235

    1235

  2. Together AI

    最も安定したホスト。現行3モデルすべてで出力速度が2位です。12316

    GLM-5.3 tokens/s
    164.3
    DeepSeek V4.1 Flash 1017 tokens/s
    365.0
    GLM-5.3-Flash tokens/s
    190.1

    強み

    GLM-5.3を164.3 tokens/s、同モデルで最短の最初のチャンク0.67 sで動かし、DeepSeek V4.1 Flash 1017は365.0 tokens/sです。12316

    制約

    出力速度では首位に立てません。GLM-5.3とDeepSeek V4.1 Flash 1017ではBasetenのFast階層が速く、GLM-5.3のEndpoint Accuracy 96.39はDeepInfraとZ.aiを下回ります。12316

    12316

  3. CoreWeave

    このページのGLM-5.3-Flash 7ホストで最速であり、CoreWeaveが現行モデルで得た唯一の測定です。314

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    292.4

    強み

    GLM-5.3-Flashの292.4 tokens/sはTogether AIの190.1の1.5倍、Novita AIの94.3の3.1倍で、CoreWeaveでAAが測定した同モデル唯一のルートです。314

    制約

    GLM-5.3とDeepSeek V4.1 Flash 1017にはAAの行がなく、GLM-5.3-Flashの最初のチャンク1.38 sはBasetenの0.41 sの3.4倍です。314

    314

  4. Fireworks

    AAが測定する2モデルでは中位で、GLM-5.3-Flashでは最初のチャンクが長めです。2315

    GLM-5.3 tokens/s
    —
    DeepSeek V4.1 Flash 1017 tokens/s
    210.4
    GLM-5.3-Flash tokens/s
    167.2

    強み

    DeepSeek V4.1 Flash 1017を210.4 tokens/sで動かし、DeepSeek自身の169.0、Novita AIの158.0を上回ります。2315

    制約

    GLM-5.3-Flashの最初のチャンク3.16 sは、測定された7ホストのうちNovita AIの4.00 sに次いで長く、GLM-5.3の行はAAにまったくありません。2315

    2315

  5. Novita AI

    4モデルすべてで測定されていますが、現行3モデルでは4位、6位、5位です。123678

    GLM-5.3 tokens/s
    105.5
    DeepSeek V4.1 Flash 1017 tokens/s
    158.0
    GLM-5.3-Flash tokens/s
    94.3

    強み

    Together AI、DeepInfraと並び4モデルすべてで測定された3ホストの1つで、GPT-OSS 120Bの238.9 tokens/sは7社中4位です。123678

    制約

    GLM-5.3は105.5 tokens/sでBasetenのFast階層283.4に対し、DeepSeek V4.1 Flash 1017は158.0対837.1、GLM-5.3-Flashは94.3で同モデル最長の最初のチャンク4.00 sです。123678

    123678

  6. Z.ai

    GLM-5.3の速度では下位ですが精度は首位。同モデルで最高のEndpoint Accuracy Indexです。1318

    GLM-5.3 tokens/s
    98.2
    DeepSeek V4.1 Flash 1017 tokens/s
    —
    GLM-5.3-Flash tokens/s
    73.5

    強み

    GLM-5.3のEndpoint Accuracy Index 98.74%は測定された6ホストで最高で、Novita AIを3.12ポイント上回ります。1318

    制約

    GLM-5.3は98.2 tokens/sで6社中5位、Together AIの164.3の60%にあたり、最初のチャンクまで2.39 sかかります。1318

    1318

  7. DeepInfra

    GLM-5.3ではZ.aiに次ぐ精度、DeepSeek V4.1 Flash 1017では最遅のホストです。12317

    GLM-5.3 tokens/s
    97.1
    DeepSeek V4.1 Flash 1017 tokens/s
    65.3
    GLM-5.3-Flash tokens/s
    57.2

    強み

    GLM-5.3のEndpoint Accuracy Index 98.6%はZ.aiに次ぐ高さで、最初のチャンク0.97 sは同モデルで3番目に短い値です。12317

    制約

    DeepSeek V4.1 Flash 1017の65.3 tokens/sは7ホストで最も遅く、BasetenのFast階層の12.8倍遅れです。同モデルの定価$0.20/$0.60には現在$0.098/$0.294のキャンペーンがあります。12317

    12317

比較方法と出典

速度と最初のチャンクは、モデルごとに1回取得したArtificial Analysisのプロバイダー中央値で、いずれも入力10,000トークン時点です。最初のチャンクは推論時間を除くため、待ち行列とプリフィルを測るもので、思考時間は含みません。Endpoint Accuracy Index v1.0は参照エンドポイントに対する値で、ここではGLM-5.3とGPT-OSS 120Bにのみ存在します。価格は各プロバイダーの標準サーバーレス入出力料金で、キャッシュ割引は含みません。

中央値は保証ではありません。測定回によってホストが数順位動くことがあり、地理ルーティング、バッチ階層、ピーク負荷でも数値は変わります。このページは測定済みのホストのみを順位づけし、AAが裏づけないベンダーの速度主張は行いません。Novita AIは独自のワークロードベンチマークを使わず、公開情報のみで公開しています。

プロバイダーは各モデル内でAAの出力速度中央値により順位づけし、モデル間では比較しません。AAの基準推論強度が異なるためです。GLM-5.3とDeepSeek V4.1 Flash 1017はMax、GPT-OSS 120BはHigh、GLM-5.3-Flashは単一構成です。同速度の場合はAAの順序を保ちます。カードは現行モデルのいずれかでの最高速度順なので、1モデルをリードするホストが、より安定したホストより上に来ることがあります。1234

  1. Artificial Analysis · GLM-5.3 providers
  2. Artificial Analysis · DeepSeek V4.1 Flash 1017 providers
  3. Artificial Analysis · GLM-5.3-Flash providers
  4. Artificial Analysis · GPT-OSS 120B providers
  5. Baseten · pricing
  6. Novita AI · GLM-5.3
  7. Novita AI · DeepSeek V4.1 Flash 1017
  8. Novita AI · GLM-5.3-Flash
  9. Novita AI · GPT-OSS 120B
  10. Groq · GPT-OSS 120B
  11. DeepSeek · API pricing
  12. Cerebras · pricing
  13. SambaNova · model token prices
  14. CoreWeave · Forge token prices
  15. Fireworks · serverless pricing
  16. Together AI · pricing
  17. DeepInfra · GLM-5.3
  18. Z.ai · pricing

Novita Model APIsで開発を始める

APIキーを作成してアプリケーションを接続しましょう。

開発を始めるモデルを見る