Groq vs SambaNova: Preise und Geschwindigkeit

SambaNova liefert GPT-OSS 120B mit 708.3 tokens/s gegenüber Groqs 469.9 tokens/s; Groq bietet dafür das günstigere Anfragebeispiel für $0.0021 statt $0.00279.123

Aktualisiert · 4 Quellen · Methodik

KriteriumGewinnerVorsprungBeleg
Geschätzte AnfragekostenGroq$0.00069Groq $0.0021 / SambaNova $0.00279
Ausgabegeschwindigkeit (tokens/s)SambaNova238.4 tokens/sGroq 469.9 / SambaNova 708.3 tokens/s
Mediane Zeit bis zum ersten Chunk (s)Groq0.57 sGroq 0.66 s / SambaNova 1.23 s
Endpoint Accuracy Index v1.0SambaNova12 ppGroq 86% / SambaNova 98%

Leistung

AnbieterAusgabegeschwindigkeit (tokens/s)Mediane Zeit bis zum ersten Chunk (s)Endpoint Accuracy Index v1.0
Groq1469.90.6686%
SambaNova1708.31.2398%

Preise und Anfragekosten

AnbieterEingabe / 1M tokensAusgabe / 1M tokens
Groq2$0.15$0.6
SambaNova3$0.22$0.59
ProduktdokumentationGroq API DokumentationSambaNova Cloud Dokumentation
API-DokumentationNovita AI · Chat API
Kostenbeispiel: 10,000 Eingabe- + 1,000 abgerechnete Ausgabetokens
Groq$0.0021
SambaNova$0.00279

Funktionen und Bereitstellungsbedingungen

KriteriumGroqSambaNova
Verglichenes ModellGPT-OSS 120B · GPT-OSS 120B
API-Modell-IDopenai/gpt-oss-120b2gpt-oss-120b4
Unterstützter KontextGroq nennt den vollen 131K-Kontext für GPT-OSS 120B.2SambaNova nennt den vollen 131K-Kontext für GPT-OSS 120B.4

Wann sich welche Option eignet

Groq

  • Groq bietet 469.9 tokens/s und Beispielkosten von $0.0021; Anfangswartezeit 0.66 s.21

SambaNova

  • SambaNova bietet 708.3 tokens/s und Beispielkosten von $0.00279; Anfangswartezeit 1.23 s.31

Methodik und Quellen

Für GPT-OSS 120B nutzt AA 10,000 Eingabetokens und high-Denkmodus: Ausgabetempo und Latenz des ersten Denk-Chunks sind Mediane. Der Endpoint Accuracy Index stammt aus einer separaten AA-Evaluierung relativ zu einer Referenz; er ist keine Erfolgsquote. Das ungecachte Kostenbeispiel berechnet 10,000 Eingabe- und 1,000 Ausgabetokens zu Standardtarifen der genannten Anbieter. Rollierende Leistungswerte Dritter entsprechen dem in der Aktualisierungszeile genannten Batch-Snapshot und sind keine Live-Garantien.

  1. Artificial Analysis · GPT-OSS 120B Anbietertabelle
  2. Groq · API-Preise
  3. SambaNova · API-Preise
  4. SambaNova · Modellzugriff und Kontext für GPT-OSS 120B

Mit Novita Model APIs entwickeln

API-Schlüssel erstellen und die Anwendung verbinden.

Jetzt entwickelnModelle ansehen