Amazon Bedrock vs Vertex AI: Preise und Geschwindigkeit

Bei GPT-OSS 120B senkt Vertex AI das Anfragebeispiel von Bedrocks $0.002163 auf $0.00126; Bedrock hat dagegen den höheren Endpoint Accuracy Index: 101% gegenüber 72%.123

Aktualisiert · 3 Quellen · Methodik

KriteriumGewinnerVorsprungBeleg
Geschätzte AnfragekostenVertex AI$0.000903Amazon Bedrock $0.002163 / Vertex AI $0.0012623
Ausgabegeschwindigkeit (tokens/s)Vertex AI79.5 tokens/sAmazon Bedrock 101.2 tokens/s / Vertex AI 180.7 tokens/s
Mediane Zeit bis zum ersten Chunk (s)Vertex AI0.18 sAmazon Bedrock 1.02 s / Vertex AI 0.84 s
Endpoint Accuracy Index v1.0Amazon Bedrock29 ppAmazon Bedrock 101% / Vertex AI 72%1

Leistung

AnbieterAusgabegeschwindigkeit (tokens/s)Mediane Zeit bis zum ersten Chunk (s)Endpoint Accuracy Index v1.0
Amazon Bedrock1101.21.02101%
Vertex AI1180.70.8472%

Preise und Anfragekosten

AnbieterEingabe / 1M tokensAusgabe / 1M tokens
Amazon Bedrock2$0.1545$0.618
Vertex AI3$0.09$0.36
ProduktdokumentationAmazon Bedrock DokumentationVertex AI Dokumentation
API-DokumentationNovita AI · Chat API
Kostenbeispiel: 10,000 Eingabe- + 1,000 abgerechnete Ausgabetokens
Amazon Bedrock$0.002163
Vertex AI$0.00126

Funktionen und Bereitstellungsbedingungen

KriteriumAmazon BedrockVertex AI
Verglichenes ModellGPT-OSS 120B · GPT-OSS 120B
AbrechnungsmodellAmazon Bedrock vs Vertex AI: Verbrauchspreise für Eingabe und abgerechnete Ausgabe; Vertragskapazität ist separat.Amazon Bedrock vs Vertex AI: Verbrauchspreise für Eingabe und abgerechnete Ausgabe; Vertragskapazität ist separat.
Bereitstellung und KapazitätDie Zeile nutzt Standard-On-Demand-GPT-OSS 120B in Sydney. IAM, regionale Verfügbarkeit und Quoten gelten; Batch und andere Regionen haben andere Preise.2Die verwaltete GPT-OSS 120B-API kostet $0.09/$0.36 je 1M Eingabe-/Ausgabetokens. Batch kostet $0.045/$0.18; verwaltete APIs und selbst bereitgestellte Instanzen werden getrennt abgerechnet.3

Wann sich welche Option eignet

Amazon Bedrock

  • Amazon Bedrock bietet 101.2 tokens/s und Beispielkosten von $0.002163; Anfangswartezeit 1.02 s.21

Vertex AI

  • Vertex AI bietet 180.7 tokens/s und Beispielkosten von $0.00126; Anfangswartezeit 0.84 s.31

Methodik und Quellen

Für GPT-OSS 120B nutzt AA 10,000 Eingabetokens und high-Denkmodus: Ausgabetempo und Latenz des ersten Denk-Chunks sind Mediane. Der Endpoint Accuracy Index stammt aus einer separaten AA-Evaluierung relativ zu einer Referenz; er ist keine Erfolgsquote. Das ungecachte Kostenbeispiel berechnet 10,000 Eingabe- und 1,000 Ausgabetokens zu Standardtarifen der genannten Anbieter. Rollierende Leistungswerte Dritter entsprechen dem in der Aktualisierungszeile genannten Batch-Snapshot und sind keine Live-Garantien.

  1. Artificial Analysis · GPT-OSS 120B Anbietertabelle
  2. Amazon Bedrock · API-Preise
  3. Vertex AI · API-Preise

Mit Novita Model APIs entwickeln

API-Schlüssel erstellen und die Anwendung verbinden.

Jetzt entwickelnModelle ansehen