Auswahlhilfe

Beste LLM-APIs: Kosten, Leistung und Grenzen

DeepInfra bietet das GPT-OSS-120B-Beispiel für $0.00054, Groq erreicht 473 tokens/s bei Artificial Analysis (AA); Novita AI verbindet Beispielkosten von $0.00075 mit 200+ Modellen und Agent Sandbox.

Aktualisiert · 13 Quellen · Methodik

BedarfEmpfehlungBegründung
Niedrigste BeispielkostenDeepInfra$0.0005412
Höchste gemessene AusgaberateGroq473 tokens/s3
Kürzeste gemessene AnfangswartezeitTogether AI0.47 s3

Leistung

Leistung

GPT-OSS 120B · AA-Anbieter-Snapshot · hohe Reasoning-Stufe · 10,000 Eingabetokens.

Wischen, um alle Spalten zu sehen

AnbieterAusgabegeschwindigkeit (tokens/s)Mediane Zeit bis zum ersten Chunk (s)Endpoint Accuracy Index v1.0
Novita AI3228.9193%
DeepInfra336.7198%
Groq3473.6590%
Together AI3118.4781%
Fireworks AI3Kein Eintrag für diesen Endpunkt im AA-Snapshot——

Funktionen und Bereitstellungsbedingungen

Funktionen und Bereitstellungsbedingungen

Wischen, um alle Spalten zu sehen

AnbieterAPI und Modell-IDBereitstellung und Kapazität
Novita AI456https://api.novita.ai/openaiNovitas Katalog mit 200+ Modellen nutzt denselben Abrechnungszugang wie die multimodalen APIs, Agent Sandbox und GPU-Produkte; dieser Endpunkt für GPT-OSS 120B erlaubt bis zu 32K Ausgabetokens.
DeepInfra12https://api.deepinfra.com/v1/openaiDeepInfra setzt standardmäßig eine Obergrenze von 200 gleichzeitigen Anfragen pro Modell. Der Standardendpunkt für GPT-OSS 120B und Turbo sind separate Produkte.
Groq78https://api.groq.com/openai/v1Für GPT-OSS 120B gelten bei Groq Free vier Kontingente: 30 RPM, 1K RPD, 8K TPM und 200K TPD; für den Developer-Tarif gelten eigene Kontingente.
Together AI91011https://api.together.xyz/v1Neben einem Katalog mit 200+ Modellen bietet Together Verträge für provisionierten Durchsatz. Der Serverless-Dienst nach dem Best-Effort-Prinzip kann bei hoher Nachfrage 429 oder 503 zurückgeben.
Fireworks AI1213https://api.fireworks.ai/inference/v1Fireworks berechnet für gecachte Eingaben von GPT-OSS 120B $0.015 pro 1M tokens. Dedizierte GPU-Bereitstellungen unterliegen weiterhin den Anfragelimits des Kontos.

Preise

Preise und Anfragekosten

Wischen, um alle Spalten zu sehen

AnbieterEingabe / 1M tokensAusgabe / 1M tokens
Novita AI456$0.05$0.25
DeepInfra12$0.037$0.17
Groq78$0.15$0.60
Together AI91011$0.15$0.60
Fireworks AI1213$0.15$0.60
Kostenbeispiel: 10,000 Eingabe- + 1,000 abgerechnete Ausgabetokens
Novita AI$0.00075
DeepInfra$0.00054
Groq$0.00210
Together AI$0.00210
Fireworks AI$0.00210

Optionen, Stärken und Einschränkungen

Optionen, Stärken und Einschränkungen

  1. DeepInfra

    Eine direkte API für kostenbewusste Textgenerierung über den Standardendpunkt.

    Eingabe / 1M tokens
    $0.037
    Ausgabe / 1M tokens
    $0.17
    Geschätzte Anfragekosten
    $0.00054

    Stärken

    • Bei DeepInfras Standardendpunkt kostet das angegebene Budget von 10,000 Eingabe- / 1,000 Ausgabetokens $0.00054.12

    Einschränkungen

    • Die niedrigen Tokenpreise gehen beim Standardendpunkt mit 36 tokens/s einher. Turbo ist ein separates Angebot; die Standardtarife von $0.037/$0.17 bieten keine Turbo-Leistung.3

    Quellen:12 · Novita AI vs DeepInfra

  2. Novita AI

    Eine Modell-API-Plattform für Anwendungen, die Text mit Bild, Video oder Audio verbinden.

    Eingabe / 1M tokens
    $0.05
    Ausgabe / 1M tokens
    $0.25
    Geschätzte Anfragekosten
    $0.00075

    Stärken

    • Für gemischte Anwendungen verbindet Novita AI $0.00075 GPT-OSS-120B-Beispielkosten mit Text-, Bild-, Video- und Audio-APIs.456

    Einschränkungen

    • Novita AI begrenzt die generierte Ausgabe auf 32K und damit die Länge der Antworten. Der Median bis zum ersten Chunk ist mit 0.91 s ebenfalls länger als Groqs 0.65 s.3

    Quellen:456

  3. Groq

    Eine Streaming-orientierte API für Anwendungen, die Ausgabegeschwindigkeit bei unterstützten Modellen priorisieren.

    Eingabe / 1M tokens
    $0.15
    Ausgabe / 1M tokens
    $0.60
    Geschätzte Anfragekosten
    $0.00210

    Stärken

    • Das AA-Ergebnis von 473 tokens/s spricht für gestreamte Ausgaben über Groqs getesteten Endpunkt für GPT-OSS 120B.783

    Einschränkungen

    • Groqs $0.15/$0.60 je 1M Eingabe-/Ausgabetokens liegen über Novita AIs $0.05/$0.25. Der Zugriff unterliegt außerdem modell- und tarifabhängigen Limits.

    Quellen:78 · Novita AI vs Groq

  4. Together AI

    Eine Option für kurze Anfangswartezeiten mit separaten Angeboten für Serverless-Zugang und vertraglich vereinbarten Durchsatz.

    Eingabe / 1M tokens
    $0.15
    Ausgabe / 1M tokens
    $0.60
    Geschätzte Anfragekosten
    $0.00210

    Stärken

    • Together AIs Median von 0.47 s bis zum ersten Chunk ist der niedrigste im angezeigten Anbieter-Snapshot.910113

    Einschränkungen

    • Together AI kostet $0.15/$0.60 je 1M Eingabe-/Ausgabetokens, gegenüber Novita AIs $0.05/$0.25. Die modell- und tarifabhängigen Regeln gelten weiterhin.

    Quellen:91011 · Novita AI vs Together AI

  5. Fireworks AI

    Eine API für wiederkehrende Prompts, die von der Abrechnung gecachter Eingaben profitieren können.

    Eingabe / 1M tokens
    $0.15
    Ausgabe / 1M tokens
    $0.60
    Geschätzte Anfragekosten
    $0.00210

    Stärken

    • Fireworks nennt $0.015 je 1M gecachte GPT-OSS-120B-Eingabetokens; Novita AI kostet $0.00075 im Beispiel ohne Cache.1213

    Einschränkungen

    • Fireworks berechnet $0.15/$0.60 für synchrone Anfragen und liegt damit über DeepInfras Standardtarifen. Dedizierte GPUs heben die kontoweiten Anfragequoten nicht auf.

    Quellen:1213 · Novita AI vs Fireworks AI

Methodik

Methodik und Quellen

Die Auswahl von fünf GPT-OSS 120B-Anbietern verwendet deren direkte Listenpreise und einen AA-Endpunkt-Snapshot für die vier gemessenen Anbieter. Die AA-Einstellungen sind Reasoning-Stufe high und 10,000 Eingabetokens; Ausgabegeschwindigkeit und Latenz bis zum ersten Datenblock sind als Mediane über 72 Stunden angegeben. Der erste empfangene Datenblock kann Reasoning enthalten; seine Latenz entspricht nicht der Wartezeit bis zum ersten Antworttoken. Der Endpoint Accuracy Index bezieht sich auf einen Referenzendpunkt und ist keine Erfolgsquote für Aufgaben. Für Fireworks enthält dieser Snapshot nur Preis- und Bereitstellungsdaten.

Das Anfragendiagramm verwendet ein synchrones Budget ohne Cache von 10,000 Eingabetokens und 1,000 abgerechneten Ausgabetokens einschließlich Reasoning; Steuern, Wiederholungsversuche, Rabatte und reservierte Kapazität sind ausgeschlossen. Die Karten sind nach diesen Kosten statt nach Anbieterqualität geordnet; Limits und Modellzahlen behalten den jeweiligen Geltungsbereich des Anbieters bei. Novita AI ist ein aufgeführter Anbieter und Herausgeber; die Seite beruht auf öffentlichen Belegen, nicht auf einem eigenen Workload-Test.

  1. DeepInfra · GPT-OSS 120B deepinfra.com · Geprüft 2026-10-15
  2. DeepInfra · Rate Limits deepinfra.com · Geprüft 2026-10-15
  3. Artificial Analysis · GPT-OSS 120B Providers artificialanalysis.ai · Geprüft 2026-10-15
  4. Novita AI · GPT-OSS 120B novita.ai · Geprüft 2026-10-15
  5. Novita AI · Platform novita.ai · Geprüft 2026-10-15
  6. Novita AI · Batch docs.novita.ai · Geprüft 2026-10-15
  7. Groq · GPT-OSS 120B console.groq.com · Geprüft 2026-10-15
  8. Groq · Rate Limits console.groq.com · Geprüft 2026-10-15
  9. Together AI · GPT-OSS 120B www.together.ai · Geprüft 2026-10-15
  10. Together AI · Model Library www.together.ai · Geprüft 2026-10-15
  11. Together AI · Rate Limits docs.together.ai · Geprüft 2026-10-15
  12. Fireworks AI · GPT-OSS 120B fireworks.ai · Geprüft 2026-10-15
  13. Fireworks AI · Account Quotas docs.fireworks.ai · Geprüft 2026-10-15

Mit Novita Model APIs entwickeln

API-Schlüssel erstellen und die Anwendung verbinden.

Jetzt entwickelnModelle ansehen

Alles, was Sie brauchen, um produktionsreife AI zu entwickeln.

Über 200 Modelle, GPUs auf Abruf und sichere Agent-Runtimes — vereint unter einer API. Kostenlos zum Einstieg, skaliert mit Ihrem Wachstum.