Alternativen
Groq-Alternativen: sechs Anbieter im Vergleich
Für GPT-OSS 120B ist DeepInfra die Wahl für niedrigere geschätzte Kosten bei 10,000 Eingabe- und 1,000 abgerechneten Ausgabetokens ($0.00054 gegenüber $0.00210 bei Groq), Cerebras für eine beobachtete Ausgabegeschwindigkeit von etwa 3.7× der von Groq (1,750 gegenüber 474 tokens/s).
| Bedarf | Empfehlung | Begründung |
|---|---|---|
| Niedrigste gelistete Kosten | DeepInfra | $0.037 / $0.17 pro 1M Eingabe- / Ausgabetokens; geschätzte Kosten pro Anfrage: $0.00054 gegenüber $0.00210 bei Groq.23 |
| Höchste beobachtete Ausgabegeschwindigkeit | Cerebras | 1,750 tokens/s gegenüber 474 bei Groq: Die Ausgabegeschwindigkeit ist im AA-Snapshot etwa 3.7× so hoch wie bei Groq.1 |
| Kostengünstiges Streaming | Novita AI | Geschätzte $0.00075 pro Beispielanfrage gegenüber $0.00210 bei Groq, mit 218 tokens/s gegenüber 35 bei DeepInfra.431 |
| Höchster Endpoint Accuracy Index | SambaNova | 99% im Endpoint Accuracy Index von AA gegenüber 90% bei Groq, mit 708 tokens/s Ausgabe.1 |
| Niedrigster beobachteter Median bis zum ersten Chunk | Together AI | 0.43 s gegenüber 0.44 s bei Cerebras und 0.67 s bei Groq; Ausgabe: 164 gegenüber Groqs 474 tokens/s.1 |
Leistung
Leistung
Sechs gemessene GPT-OSS-120B-Endpunkte im AA-Snapshot vom 2026-10-14, mit Groq als Referenz.
Wischen, um alle Spalten zu sehen
| Kennzahl | Novita AI | Groq | Cerebras | SambaNova | Together AI | DeepInfra |
|---|---|---|---|---|---|---|
| Ausgabegeschwindigkeit (tokens/s) | 218 | 474 | 1,750 | 708 | 164 | 35 |
| Mediane Zeit bis zum ersten Chunk (s) | 0.92 | 0.67 | 0.44 | 1.28 | 0.43 | 0.67 |
| Endpoint Accuracy Index | 93% | 90% | 92% | 99% | 81% | 98% |
Quellen: Artificial Analysis1 · Geprüft 2026-10-16
Preise
Preise
GPT-OSS 120B: synchrone Anfragen ohne Cache, Preise in USD. Cerebras-Werte gelten für den Developer-Tarif zur Entwicklung und Evaluierung; für den Produktivbetrieb ist ein Vertriebsangebot nötig.
Wischen, um alle Spalten zu sehen
| Anbieter | Eingabe / 1M tokens | Ausgabe / 1M tokens |
|---|---|---|
| DeepInfra2 | $0.037 | $0.17 |
| Novita AI4 | $0.05 | $0.25 |
| Groq3 | $0.15 | $0.60 |
| Fireworks AI5 | $0.15 | $0.60 |
| Together AI6 | $0.15 | $0.60 |
| SambaNova12 | $0.22 | $0.59 |
| Cerebras (Developer)7 | $0.35 | $0.75 |
Quellen: DeepInfra2, Novita AI4, Groq3, Fireworks AI5, Together AI6, SambaNova12, Cerebras7 · Geprüft 2026-10-16
Anbieter im Detail
Sechs Groq-Alternativen, nach Kosten der Beispielanfrage geordnet
Die Karten sind nach steigenden geschätzten Kosten ohne Cache für 10,000 Eingabe- und 1,000 abgerechnete Ausgabetokens geordnet; Fireworks AI und Together AI kosten gleich viel. Diese Reihenfolge ist keine allgemeine Qualitätsrangliste.
-
DeepInfra
Niedrige Tokenpreise und 98% im Endpoint Accuracy Index auf dem Standardendpunkt für GPT-OSS 120B.
- Eingabe / 1M tokens
- $0.037
- Ausgabe / 1M tokens
- $0.17
- Geschätzte Kosten pro Anfrage
- $0.00054
Stärken
- Die geschätzten Kosten pro Anfrage betragen $0.00054, etwa 74% weniger als bei Groq.
- Die Seite des Standardmodells nennt bfloat16-Präzision und keine Datenspeicherung.
Einschränkungen
- Die Standardausgabe erreicht 35 tokens/s gegenüber 474 bei Groq; lange Antworten brauchen daher länger.1
- Der schnellere Turbo-Endpunkt ist ein eigenes Angebot; Preise und Genauigkeitsindex des Standardendpunkts gelten nicht für dieses Angebot.
Quellen: DeepInfra GPT-OSS 120B2, Artificial Analysis1 · Geprüft 2026-10-16
-
Novita AI
Günstigeres Streaming als bei Groq, mit 93% im Endpoint Accuracy Index und 218 tokens/s Ausgabe.1
- Eingabe / 1M tokens
- $0.05
- Ausgabe / 1M tokens
- $0.25
- Geschätzte Kosten pro Anfrage
- $0.00075
Stärken
- Die geschätzten Kosten pro Anfrage betragen $0.00075, etwa 64% weniger als bei Groq.
- Batch API bietet ein Bearbeitungsfenster von 24 Stunden und einen Einführungsrabatt von 50% für unterstützte Modelle.
Einschränkungen
- Die Ausgabegeschwindigkeit ist weniger als halb so hoch wie bei Groq: 218 gegenüber 474 tokens/s; der erste Datenblock trifft nach 0.92 s statt 0.67 s ein.1
- Für GPT-OSS 120B ist kein Preis für gecachte Eingabetokens gelistet.
- Das Standardkonto T1 erlaubt 30 RPM; höhere Anfragelimits hängen von den monatlichen Aufladungen des Kontos ab.
Quellen: Novita AI Pricing4, Batch API8, Rate Limits9, Artificial Analysis1 · Geprüft 2026-10-16
-
Fireworks AI
Serverloses GPT-OSS 120B mit Tokenabrechnung und dedizierten On-Demand-Deployments für reservierte GPU-Kapazität.
- Eingabe / 1M tokens
- $0.15
- Ausgabe / 1M tokens
- $0.60
- Geschätzte Kosten pro Anfrage
- $0.00210
Stärken
- Gecachte Eingabetokens kosten $0.015 pro 1M, ein Zehntel des regulären Eingabepreises.
- Das Modell ist sowohl serverlos als auch in dedizierten On-Demand-Deployments verfügbar.
Einschränkungen
- Die Preise ohne Cache entsprechen Groq: $0.15 für Eingabe und $0.60 für Ausgabe pro 1M tokens.
- On-Demand-Deployments werden pro GPU-Sekunde abgerechnet, nicht zu den hier gezeigten serverlosen Tokenpreisen.
Quellen: Fireworks GPT-OSS 120B5, Fireworks Pricing17 · Geprüft 2026-10-16
-
Together AI
Eine mediane Zeit bis zum ersten Datenblock von 0.43 s in der gemessenen Auswahl, dazu serverlose und dedizierte Bereitstellungsoptionen.
- Eingabe / 1M tokens
- $0.15
- Ausgabe / 1M tokens
- $0.60
- Geschätzte Kosten pro Anfrage
- $0.00210
Stärken
- Im AA-Snapshot trifft der erste Datenblock 0.24 s früher als bei Groq ein.
- Dedizierte Endpunkte nutzen reservierte GPUs und können eigene Modellgewichte bereitstellen.
Einschränkungen
- Die Ausgabe erreicht 164 tokens/s gegenüber 474 bei Groq, bei identischen gelisteten Tokenpreisen.1
- Der Endpoint Accuracy Index beträgt 81% gegenüber 90% bei Groq.
Quellen: Together AI GPT-OSS 120B6, Dedicated Model Inference16, Artificial Analysis1 · Geprüft 2026-10-16
-
SambaNova
Der höchste beobachtete Endpoint Accuracy Index im AA-Snapshot dieser Auswahl, mit 708 tokens/s Ausgabe.1
- Eingabe / 1M tokens
- $0.22
- Ausgabe / 1M tokens
- $0.59
- Geschätzte Kosten pro Anfrage
- $0.00279
Stärken
- Der Endpoint Accuracy Index beträgt 99% gegenüber 90% bei Groq; die Ausgabegeschwindigkeit liegt im AA-Snapshot bei etwa 1.5× Groqs Geschwindigkeit.
- Die APIs Chat Completions und Responses funktionieren mit OpenAI-Clientbibliotheken.
Einschränkungen
- Die geschätzten Kosten pro Anfrage betragen $0.00279, etwa 33% mehr als bei Groq.
- Der erste Datenblock trifft nach 1.28 s statt 0.67 s bei Groq ein.
Quellen: SambaNova Pricing12, OpenAI Compatibility13, Artificial Analysis1 · Geprüft 2026-10-16
-
Cerebras
Die höchste beobachtete Ausgabegeschwindigkeit im AA-Snapshot dieser Auswahl: 1,750 tokens/s, etwa 3.7× Groqs Geschwindigkeit; die unten gelisteten Preise gelten für Developer.1
- Eingabe / 1M tokens
- $0.35
- Ausgabe / 1M tokens
- $0.75
- Geschätzte Kosten pro Anfrage
- $0.00425
Stärken
- Der erste Datenblock trifft nach 0.44 s statt 0.67 s bei Groq ein.
- Dedicated Inference reserviert Kapazität für Unternehmensworkloads und unterstützt eigene Modellgewichte.
Einschränkungen
- Mit Developer-Preisen kostet die Beispielanfrage geschätzt $0.00425, etwa doppelt so viel wie bei Groq.
- Die Developer-Limits betragen 1,000 RPM, 1M ungecachte TPM und 3M TPM insgesamt; dieser Tarif ist nicht für den Produktivbetrieb vorgesehen.
- Enterprise-Kapazität, Preise und SLA erfordern eine Vertriebsvereinbarung.
Quellen: Cerebras Pricing7, Rate Limits10, Dedicated Inference11, Artificial Analysis1 · Geprüft 2026-10-16
Groq als Referenz
Was sich mit einem anderen Anbieter verändert
Groq bietet einen ausgewählten Produktionskatalog über eine OpenAI-kompatible API; GPT-OSS 120B kostet $0.15 für Eingabe und $0.60 für Ausgabe pro 1M tokens, mit 474 tokens/s Ausgabe im AA-Snapshot.3141
- Geringere Kosten ohne Cache: DeepInfra und Novita AI listen niedrigere Preise für Eingabe und Ausgabe.24
- Höherer Ausgabedurchsatz: Cerebras und SambaNova streamen beim selben gemessenen Modell schneller.1
- Reservierte Hardware: Fireworks AI und Together AI bieten Deployments auf dedizierten GPUs.516
- Kapazitätsabhängiger Traffic: Groq-Flex-Anfragen scheitern sofort mit
capacity_exceeded, wenn keine freie Kapazität verfügbar ist.15
Den Funktions- und Rate-Limit-Vergleich der beiden Plattformen finden Sie unter Novita AI vs Groq.
FAQ
Häufig gestellte Fragen
Welche kostenlosen Alternativen zu Groq gibt es?
OpenRouter bietet :free-Modellvarianten mit Standardlimits von 20 Anfragen pro Minute und 50 Anfragen pro Tag. Diese Routen sind von den kostenpflichtigen GPT-OSS 120B-Endpunkten in der Preistabelle dieser Seite getrennt; Testguthaben ist kein dauerhaftes Gratisangebot.1819
Wer konkurriert mit Groq?
Dieser Vergleich umfasst 6 Alternativen: Novita AI, DeepInfra, Fireworks AI, Together AI, Cerebras und SambaNova. Fireworks ist mit Preisen und Bereitstellungsoptionen vertreten; für die anderen 5 Alternativen enthält der AA-Snapshot auch Performancewerte.12457126
Wie teuer ist Groq?
Groq listet GPT-OSS 120B mit $0.15 pro 1M Eingabetokens und $0.60 pro 1M Ausgabetokens. Zu diesen synchronen Tarifen ohne Cache kosten 10,000 Eingabetokens plus 1,000 abgerechnete Ausgabetokens schätzungsweise $0.00210.3
Methodik
Methodik und Quellen
Die Leistungstabelle behält den AA-Snapshot für GPT-OSS 120B vom 2026-10-14 bei: Reasoning-Stufe high, 10,000 Eingabetokens und Mediane über 72 Stunden für Geschwindigkeit und Zeit bis zum ersten Datenblock. Der erste empfangene Datenblock kann Reasoning enthalten; gemessen wird nicht die Wartezeit bis zum ersten Antworttoken. Der Endpoint Accuracy Index v1.0 bezieht sich auf einen Referenzendpunkt und ist keine Erfolgsquote für Aufgaben; Punktschätzungen wie 0.43 s gegenüber 0.44 s belegen keine statistische Signifikanz. DeepInfra bezeichnet den Standardendpunkt, nicht Turbo; Fireworks wird nur mit Preisen und Bereitstellung berücksichtigt. Preise und Tarifbedingungen wurden am 2026-10-16 geprüft.
Das USD-Beispiel wendet die angezeigten synchronen Tarife einschließlich der Developer-Tarife von Cerebras auf 10,000 Eingabetokens ohne Cache und 1,000 abgerechnete Ausgabetokens einschließlich Reasoning an. Steuern, Rabatte und Wiederholungsversuche sind ausgeschlossen. Novita AI ist eine der Alternativen und veröffentlicht die Seite anhand der verlinkten Quellen, ohne einen eigenen Benchmark durchzuführen.
- Artificial Analysis · GPT-OSS 120B Providers artificialanalysis.ai · Geprüft 2026-10-16
- DeepInfra · GPT-OSS 120B deepinfra.com · Geprüft 2026-10-16
- Groq · GPT-OSS 120B console.groq.com · Geprüft 2026-10-16
- Novita AI · Pricing novita.ai · Geprüft 2026-10-16
- Fireworks AI · GPT-OSS 120B fireworks.ai · Geprüft 2026-10-16
- Together AI · GPT-OSS 120B together.ai · Geprüft 2026-10-16
- Cerebras · Pricing cerebras.ai · Geprüft 2026-10-16
- Novita AI · Batch API docs.novita.ai · Geprüft 2026-10-16
- Novita AI · LLM Rate Limits docs.novita.ai · Geprüft 2026-10-16
- Cerebras · Rate Limits inference-docs.cerebras.ai · Geprüft 2026-10-16
- Cerebras · Dedicated Inference inference-docs.cerebras.ai · Geprüft 2026-10-16
- SambaNova · Pricing cloud.sambanova.ai · Geprüft 2026-10-16
- SambaNova · OpenAI Compatibility docs.sambanova.ai · Geprüft 2026-10-16
- Groq · Supported Models console.groq.com · Geprüft 2026-10-16
- Groq · Flex Processing console.groq.com · Geprüft 2026-10-16
- Together AI · Dedicated Model Inference docs.together.ai · Geprüft 2026-10-16
- Fireworks AI · Pricing fireworks.ai · Geprüft 2026-10-16
- OpenRouter · FAQ openrouter.ai · Geprüft 2026-10-16
- OpenRouter · Free-variant Rate Limits openrouter.ai · Geprüft 2026-10-16
Mit Novita Model APIs entwickeln
Sehen Sie sich den GPT-OSS 120B-Endpunkt an, erstellen Sie einen API-Schlüssel und verbinden Sie Ihre Anwendung.