Amazon Bedrock vs Vertex AI : tarifs et débit

Sur GPT-OSS 120B, Vertex AI réduit l’exemple de requête de $0.002163 sur Bedrock à $0.00126, tandis que Bedrock a le meilleur Endpoint Accuracy Index : 101% contre 72%.123

Mis à jour · 3 sources · Méthodologie

CritèreGagnantÉcartPreuve
Coût estimé par requêteVertex AI$0.000903Amazon Bedrock $0.002163 / Vertex AI $0.0012623
Vitesse de sortie (tokens/s)Vertex AI79.5 tokens/sAmazon Bedrock 101.2 tokens/s / Vertex AI 180.7 tokens/s
Délai médian avant le premier fragment (s)Vertex AI0.18 sAmazon Bedrock 1.02 s / Vertex AI 0.84 s
Endpoint Accuracy Index v1.0Amazon Bedrock29 ppAmazon Bedrock 101% / Vertex AI 72%1

Performances

FournisseurVitesse de sortie (tokens/s)Délai médian avant le premier fragment (s)Endpoint Accuracy Index v1.0
Amazon Bedrock1101.21.02101%
Vertex AI1180.70.8472%

Tarifs et coût par requête

FournisseurEntrée / 1M tokensSortie / 1M tokens
Amazon Bedrock2$0.1545$0.618
Vertex AI3$0.09$0.36
Documentation produitAmazon Bedrock documentationVertex AI documentation
Documentation de l’APINovita AI · Chat API
Exemple : 10,000 tokens en entrée + 1,000 en sortie facturée
Amazon Bedrock$0.002163
Vertex AI$0.00126

Capacités et conditions de service

CritèreAmazon BedrockVertex AI
Modèle comparéGPT-OSS 120B · GPT-OSS 120B
Modèle de facturationAmazon Bedrock vs Vertex AI : Tarifs à l’usage en entrée et sortie facturée ; capacité contractuelle distincte.Amazon Bedrock vs Vertex AI : Tarifs à l’usage en entrée et sortie facturée ; capacité contractuelle distincte.
Déploiement et capacitéLa ligne utilise GPT-OSS 120B standard à la demande en Sydney. IAM, disponibilité régionale et quotas s’appliquent ; Batch et autres régions ont des tarifs distincts.2L’API gérée GPT-OSS 120B affiche $0.09/$0.36 par 1M tokens en entrée/sortie. Batch coûte $0.045/$0.18 ; API gérées et instances auto-déployées ont des facturations distinctes.3

Quand choisir chaque option

Amazon Bedrock

  • Envisagez Amazon Bedrock pour 101.2 tokens/s et un exemple à $0.002163 ; attente initiale 1.02 s.21

Vertex AI

  • Envisagez Vertex AI pour 180.7 tokens/s et un exemple à $0.00126 ; attente initiale 0.84 s.31

Méthodologie et sources

Pour GPT-OSS 120B, AA mesure les performances à 10,000 tokens d’entrée et raisonnement high : vitesse et délai du premier bloc de raisonnement sont des médianes. Endpoint Accuracy Index provient d’une évaluation AA distincte relative à une référence ; ce n’est pas un taux de réussite. L’exemple sans cache facture 10,000 tokens d’entrée et 1,000 de sortie aux tarifs standard des vendeurs indiqués. Les performances variables de tiers correspondent à l’instantané du lot indiqué dans la ligne de mise à jour et ne constituent pas des garanties en temps réel.

  1. Artificial Analysis · GPT-OSS 120B tableau des fournisseurs
  2. Amazon Bedrock · tarifs API
  3. Vertex AI · tarifs API

Développez avec Novita Model APIs

Créez une clé API et connectez votre application.