Amazon Bedrock vs Vertex AI: preços e velocidade

No GPT-OSS 120B, Vertex AI reduz o exemplo de solicitação de $0.002163 na Bedrock para $0.00126, enquanto Bedrock tem o maior Endpoint Accuracy Index: 101% contra 72%.123

Atualizado · 3 fontes · Metodologia

CritérioVencedorDiferençaEvidência
Custo estimado por solicitaçãoVertex AI$0.000903Amazon Bedrock $0.002163 / Vertex AI $0.0012623
Velocidade de saída (tokens/s)Vertex AI79.5 tokens/sAmazon Bedrock 101.2 tokens/s / Vertex AI 180.7 tokens/s
Mediana do tempo até o primeiro fragmento (s)Vertex AI0.18 sAmazon Bedrock 1.02 s / Vertex AI 0.84 s
Endpoint Accuracy Index v1.0Amazon Bedrock29 ppAmazon Bedrock 101% / Vertex AI 72%1

Desempenho

ProvedorVelocidade de saída (tokens/s)Mediana do tempo até o primeiro fragmento (s)Endpoint Accuracy Index v1.0
Amazon Bedrock1101.21.02101%
Vertex AI1180.70.8472%

Preços e custo por solicitação

ProvedorEntrada / 1M tokensSaída / 1M tokens
Amazon Bedrock2$0.1545$0.618
Vertex AI3$0.09$0.36
Documentação do produtoAmazon Bedrock documentaçãoVertex AI documentação
Documentação da APINovita AI · Chat API
Exemplo: 10,000 tokens de entrada + 1,000 de saída faturada
Amazon Bedrock$0.002163
Vertex AI$0.00126

Recursos e condições do serviço

CritérioAmazon BedrockVertex AI
Modelo comparadoGPT-OSS 120B · GPT-OSS 120B
Modelo de cobrançaAmazon Bedrock vs Vertex AI: Preços por uso de entrada e saída faturada; capacidade contratada à parte.Amazon Bedrock vs Vertex AI: Preços por uso de entrada e saída faturada; capacidade contratada à parte.
Serviço e capacidadeA linha usa GPT-OSS 120B sob demanda padrão em Sydney. Aplicam-se IAM, disponibilidade regional e cotas; Batch e outras regiões têm outros preços.2A API gerenciada GPT-OSS 120B anuncia $0.09/$0.36 por 1M tokens de entrada/saída. Batch custa $0.045/$0.18; APIs e instâncias próprias têm cobrança separada.3

Quando escolher cada opção

Amazon Bedrock

  • Considere Amazon Bedrock por 101.2 tokens/s e um exemplo de $0.002163; espera inicial 1.02 s.21

Vertex AI

  • Considere Vertex AI por 180.7 tokens/s e um exemplo de $0.00126; espera inicial 0.84 s.31

Metodologia e fontes

Para GPT-OSS 120B, AA mede desempenho com 10,000 tokens de entrada e raciocínio high: velocidade e latência até o primeiro bloco de raciocínio são medianas. Endpoint Accuracy Index vem de outra avaliação AA relativa a uma referência; não é taxa de acertos. O custo sem cache usa 10,000 tokens de entrada e 1,000 de saída com tarifas padrão dos vendedores indicados. Os valores variáveis de desempenho de terceiros são o snapshot do lote indicado na linha de atualização, não garantias em tempo real.

  1. Artificial Analysis · GPT-OSS 120B tabela de provedores
  2. Amazon Bedrock · preços de API
  3. Vertex AI · preços de API

Desenvolva com Novita Model APIs

Crie uma chave API e conecte sua aplicação.

Comece a desenvolverExplore os modelos