DeepInfra vs Groq: Kosten, Leistung und Grenzen

DeepInfra kostet $0.00054 pro GPT-OSS-120B-Beispielanfrage, 3.9× weniger als die $0.00210 bei Groq; Groq generiert mit 473.4 statt 56.6 tokens/s 8.4× schneller.

Aktualisiert · 5 Quellen · Methodik

KriteriumGewinnerVorsprungBeleg
Geschätzte AnfragekostenDeepInfra$0.00156$0.00054 / $0.002102345
Ausgabegeschwindigkeit (tokens/s)Groq8.4×56.6 / 473.4 tokens/s1
Endpoint Accuracy Index v1.0DeepInfra11 pp97% / 86%1

Leistung

AnbieterAusgabegeschwindigkeit (tokens/s)Mediane Zeit bis zum ersten Chunk (s)Endpoint Accuracy Index v1.0
DeepInfra156.60.6297%
Groq1473.40.6386%

Preise und Anfragekosten

AnbieterEingabe / 1M tokensAusgabe / 1M tokensGeschätzte Anfragekosten
DeepInfra23$0.037$0.17$0.00054
Groq45$0.15$0.60$0.00210
Kostenbeispiel: 10,000 Eingabe- + 1,000 abgerechnete Ausgabetokens
DeepInfra$0.00054
Groq$0.00210

Funktionen und Bereitstellungsbedingungen

KriteriumDeepInfraGroq
API und Modell-IDhttps://api.deepinfra.com/v1/openai
openai/gpt-oss-120b23		https://api.groq.com/openai/v1
openai/gpt-oss-120b45
Bereitstellung und KapazitätStandardlimit je Konto: 200 gleichzeitige Anfragen je Modell, gezählt als Parallelität statt pro Minute; Erhöhungen sind auf Anfrage möglich.23Basislimits des Developer-Tarifs für GPT-OSS 120B: 1K RPM, 500K RPD und 250K TPM; für ausgewählte Workloads gibt es höhere Limits. Der kostenlose Tarif nennt 30 RPM, 1K RPD, 8K TPM und 200K TPD.45

Wann sich welche Option eignet

DeepInfra

  • Der Standardendpunkt passt, wenn laufende Kosten wichtiger als eine schnell fertige Antwort sind.23
  • 97% Endpunktgenauigkeit liegen über Groqs 86%; die langsamere Ausgabe bedeutet hier keine schwächere Genauigkeit.1
  • DeepInfra hat den Turbo-Eintrag für dieses Modell als veraltet markiert; auszuwählen und zu kalkulieren ist deshalb der Standardendpunkt.23

Groq

  • Groq passt zu langen interaktiven Ausgaben: AA nennt 473.4 tokens/s gegenüber DeepInfra mit 56.6.1
  • Das feste Beispiel kostet $0.00210 statt $0.00054; die Tempowahl erhöht das Anfragebudget.2345
  • Bemessen Sie Produktionslast an den Basislimits des Developer-Tarifs für dieses Modell, 1K RPM und 250K TPM, nicht an den 30 RPM und 8K TPM des kostenlosen Tarifs.45

Methodik und Quellen

Der AA-Snapshot vergleicht GPT-OSS 120B bei hohem Reasoning und 10,000 Eingabetokens. Die Anfangslatenz schließt spätere Denk- und Ausgabezeit aus. Endpoint Accuracy Index ist relativ zu einer Referenz. Offizielle Standardtarife ohne Cache-Rabatte.

Die Kosten sind Schätzungen zu synchronen Listentarifen ohne Cache, keine gemessenen Rechnungen; abgerechnete Ausgabe umfasst Reasoning. Steuern, Wiederholungen, Rabatte und Vertragskapazität sind ausgeschlossen. Novita AI veröffentlicht diese Seite anhand öffentlicher Quellen ohne privaten Lasttest.

  1. Artificial Analysis · GPT-OSS 120B Providers
  2. DeepInfra · GPT-OSS 120B
  3. DeepInfra · Rate Limits
  4. Groq · GPT-OSS 120B
  5. Groq · Rate Limits

Mit Novita Model APIs entwickeln

API-Schlüssel erstellen und die Anwendung verbinden.

Jetzt entwickelnModelle ansehen