Groq vs SambaNova: preços e velocidade

SambaNova entrega GPT-OSS 120B a 708.3 tokens/s contra 469.9 tokens/s da Groq; Groq troca essa velocidade por um exemplo mais barato de $0.0021, contra $0.00279.123

Atualizado · 4 fontes · Metodologia

CritérioVencedorDiferençaEvidência
Custo estimado por solicitaçãoGroq$0.00069Groq $0.0021 / SambaNova $0.00279
Velocidade de saída (tokens/s)SambaNova238.4 tokens/sGroq 469.9 / SambaNova 708.3 tokens/s
Mediana do tempo até o primeiro fragmento (s)Groq0.57 sGroq 0.66 s / SambaNova 1.23 s
Endpoint Accuracy Index v1.0SambaNova12 ppGroq 86% / SambaNova 98%

Desempenho

ProvedorVelocidade de saída (tokens/s)Mediana do tempo até o primeiro fragmento (s)Endpoint Accuracy Index v1.0
Groq1469.90.6686%
SambaNova1708.31.2398%

Preços e custo por solicitação

ProvedorEntrada / 1M tokensSaída / 1M tokens
Groq2$0.15$0.6
SambaNova3$0.22$0.59
Documentação do produtoGroq API documentaçãoSambaNova Cloud documentação
Documentação da APINovita AI · Chat API
Exemplo: 10,000 tokens de entrada + 1,000 de saída faturada
Groq$0.0021
SambaNova$0.00279

Recursos e condições do serviço

CritérioGroqSambaNova
Modelo comparadoGPT-OSS 120B · GPT-OSS 120B
ID do modelo da APIopenai/gpt-oss-120b2gpt-oss-120b4
Contexto suportadoGroq informa contexto completo de 131K para GPT-OSS 120B.2SambaNova informa contexto completo de 131K para GPT-OSS 120B.4

Quando escolher cada opção

Groq

  • Considere Groq por 469.9 tokens/s e um exemplo de $0.0021; espera inicial 0.66 s.21

SambaNova

  • Considere SambaNova por 708.3 tokens/s e um exemplo de $0.00279; espera inicial 1.23 s.31

Metodologia e fontes

Para GPT-OSS 120B, AA mede desempenho com 10,000 tokens de entrada e raciocínio high: velocidade e latência até o primeiro bloco de raciocínio são medianas. Endpoint Accuracy Index vem de outra avaliação AA relativa a uma referência; não é taxa de acertos. O custo sem cache usa 10,000 tokens de entrada e 1,000 de saída com tarifas padrão dos vendedores indicados. Os valores variáveis de desempenho de terceiros são o snapshot do lote indicado na linha de atualização, não garantias em tempo real.

  1. Artificial Analysis · GPT-OSS 120B tabela de provedores
  2. Groq · preços de API
  3. SambaNova · preços de API
  4. SambaNova · acesso e contexto do GPT-OSS 120B

Desenvolva com Novita Model APIs

Crie uma chave API e conecte sua aplicação.