A API de LLM mais rápida: velocidade por modelo, não por fornecedor

A velocidade depende do modelo, não só do fornecedor. O nível Fast da Baseten lidera o DeepSeek V4.1 Flash 1017 com 837.1 tokens/s e primeiro fragmento em 0.21 s, e o GLM-5.3 com 283.4 tokens/s; a CoreWeave lidera o GLM-5.3-Flash com 292.4 tokens/s, e a Cerebras segue liderando a referência GPT-OSS 120B com 1,693.7 tokens/s. A Novita AI fica em quarto ou pior em todos os modelos atuais.

Atualizado 2026-10-26 · 18 fontes · Metodologia

Necessidade	Recomendação	Motivo
Mais rápido · GLM-5.3	Baseten (Fast)	283.4 tokens/s, primeiro fragmento em 0.90 s¹
Mais rápido · DeepSeek V4.1 Flash 1017	Baseten (Fast)	837.1 tokens/s, primeiro fragmento em 0.21 s²
Mais rápido · GLM-5.3-Flash	CoreWeave	292.4 tokens/s, primeiro fragmento em 1.38 s³
Mais rápido · referência GPT-OSS 120B	Cerebras	1,693.7 tokens/s, primeiro fragmento em 0.38 s⁴
Primeiro fragmento mais curto · DeepSeek V4.1 Flash 1017	Baseten (Fast)	0.21 s, contra 0.27 s no nível padrão da Baseten²
Maior precisão · GLM-5.3	Z.ai	98.74%, 3.12 pontos acima da Novita AI¹¹⁸

Como ler estes rankings

Todos os valores são medianas de provedor da Artificial Analysis (AA) com entrada de 10.000 tokens: velocidade de saída em tokens por segundo e tempo até o primeiro fragmento, que exclui o raciocínio. A AA avalia cada modelo no seu próprio esforço principal —Max no GLM-5.3 e no DeepSeek V4.1 Flash 1017, High no GPT-OSS 120B e uma única configuração no GLM-5.3-Flash—, então os provedores são ordenados dentro de um modelo e nunca entre modelos. A Fireworks não tem linha da AA no GLM-5.3 apesar de vendê-lo, por isso aparece só onde a AA a mede.

Velocidade de saída do GLM-5.3

Seis hosts nomeados e um líder claro. O nível Fast da Baseten é um SKU separado e mais caro, a $2.10/$6.60, e não é comparável em custo com as rotas padrão de $1.40/$4.40.

Deslize para ver todas as colunas

Provedor	Velocidade de saída (tokens/s)	Primeiro fragmento (s)	Endpoint Accuracy Index v1.0	Preço in / out por 1M
Baseten (Fast)¹⁵	283.4	0.90	94.18%	$2.10 / $6.60⁵
Together AI¹¹⁶	164.3	0.67	96.39%	$1.40 / $4.40¹⁶
Baseten¹⁵	150.4	2.60	95.54%	$1.40 / $4.40⁵
Novita AI¹⁶	105.5	2.51	95.62%	$1.40 / $4.40⁶
Z.ai¹¹⁸	98.2	2.39	98.74%	$1.40 / $4.40¹⁸
DeepInfra¹¹⁷	97.1	0.97	98.6%	$0.90 / $4.00¹⁷

Velocidade de saída por provedor · GLM-5.3 (tokens/s)

Baseten (Fast)283.4

Together AI164.3

Baseten150.4

Novita AI105.5

Z.ai98.2

DeepInfra97.1

As barras são escaladas dentro de cada modelo; o host mais rápido de um modelo não é comparável ao de outro porque os ajustes de esforço da AA diferem.

O Endpoint Accuracy Index só é publicado para GLM-5.3 e GPT-OSS 120B entre estes quatro modelos; DeepSeek V4.1 Flash 1017 e GLM-5.3-Flash ainda não têm valor de precisão na AA.

Velocidade de saída do DeepSeek V4.1 Flash 1017

Sete hosts e a maior variação dos três modelos atuais: o mais rápido é 12.8× o mais lento, no mesmo modelo e na mesma configuração da AA.

Deslize para ver todas as colunas

Provedor	Velocidade de saída (tokens/s)	Primeiro fragmento (s)	Endpoint Accuracy Index v1.0	Preço in / out por 1M
Baseten (Fast)²⁵	837.1	0.21	—	$0.60 / $2.40⁵
Together AI²¹⁶	365.0	0.32	—	$0.30 / $1.20¹⁶
Baseten²⁵	281.1	0.27	—	$0.30 / $1.20⁵
Fireworks²¹⁵	210.4	1.15	—	$0.30 / $1.20¹⁵
DeepSeek²¹¹	169.0	1.19	—	$0.30 / $1.20¹¹
Novita AI²⁷	158.0	1.43	—	$0.30 / $1.20⁷
DeepInfra²¹⁷	65.3	0.72	—	$0.20 / $0.60¹⁷

Velocidade de saída por provedor · DeepSeek V4.1 Flash 1017 (tokens/s)

Baseten (Fast)837.1

Together AI365.0

Baseten281.1

Fireworks210.4

DeepSeek169.0

Novita AI158.0

DeepInfra65.3

As barras são escaladas dentro de cada modelo; o host mais rápido de um modelo não é comparável ao de outro porque os ajustes de esforço da AA diferem.

O Endpoint Accuracy Index só é publicado para GLM-5.3 e GPT-OSS 120B entre estes quatro modelos; DeepSeek V4.1 Flash 1017 e GLM-5.3-Flash ainda não têm valor de precisão na AA.

Velocidade de saída do GLM-5.3-Flash

Sete hosts, e o único modelo atual em que a AA mede a CoreWeave. Os 292.4 tokens/s da CoreWeave são os mais rápidos dos sete hosts desta tabela.

Deslize para ver todas as colunas

Provedor	Velocidade de saída (tokens/s)	Primeiro fragmento (s)	Endpoint Accuracy Index v1.0	Preço in / out por 1M
CoreWeave³¹⁴	292.4	1.38	—	$0.15 / $0.50¹⁴
Together AI³¹⁶	190.1	0.70	—	$0.15 / $0.50¹⁶
Fireworks³¹⁵	167.2	3.16	—	$0.15 / $0.50¹⁵
Baseten³⁵	147.4	0.41	—	$0.15 / $0.50⁵
Novita AI³⁸	94.3	4.00	—	$0.15 / $0.50⁸
Z.ai³¹⁸	73.5	2.84	—	$0.15 / $0.50¹⁸
DeepInfra³¹⁷	57.2	0.83	—	$0.15 / $0.50¹⁷

Velocidade de saída por provedor · GLM-5.3-Flash (tokens/s)

CoreWeave292.4

Together AI190.1

Fireworks167.2

Baseten147.4

Novita AI94.3

Z.ai73.5

DeepInfra57.2

As barras são escaladas dentro de cada modelo; o host mais rápido de um modelo não é comparável ao de outro porque os ajustes de esforço da AA diferem.

O Endpoint Accuracy Index só é publicado para GLM-5.3 e GPT-OSS 120B entre estes quatro modelos; DeepSeek V4.1 Flash 1017 e GLM-5.3-Flash ainda não têm valor de precisão na AA.

Referência GPT-OSS 120B: onde Groq, Cerebras e SambaNova ainda figuram

Groq, Cerebras e SambaNova não oferecem nenhum dos três modelos atuais acima, e por isso a referência GPT-OSS 120B de 2025 permanece: é o único modelo em que a AA mede as três.

Deslize para ver todas as colunas

Provedor	Velocidade de saída (tokens/s)	Primeiro fragmento (s)	Endpoint Accuracy Index v1.0	Preço in / out por 1M
Cerebras⁴¹²	1,693.7	0.38	87%	$0.35 / $0.75¹²
SambaNova⁴¹³	701.2	1.18	98%	$0.22 / $0.59¹³
Groq⁴¹⁰	473.4	0.63	86%	$0.15 / $0.60¹⁰
Novita AI⁴⁹	238.9	0.92	91%	$0.05 / $0.25⁹
Together AI⁴¹⁶	169.4	0.53	77%	$0.15 / $0.60¹⁶
CoreWeave⁴¹⁴	98.3	1.40	98%	$0.03 / $0.17¹⁴
DeepInfra⁴¹⁷	56.6	0.62	97%	$0.037 / $0.17¹⁷

Velocidade de saída por provedor · GPT-OSS 120B (tokens/s)

Cerebras1,693.7

SambaNova701.2

Groq473.4

Novita AI238.9

Together AI169.4

CoreWeave98.3

DeepInfra56.6

As barras são escaladas dentro de cada modelo; o host mais rápido de um modelo não é comparável ao de outro porque os ajustes de esforço da AA diferem.

Provedor por provedor nos modelos atuais

Os cartões seguem a melhor velocidade de saída de cada provedor em qualquer um dos três modelos atuais. Um traço significa que o provedor não é medido naquele modelo; Groq, Cerebras e SambaNova aparecem só na referência GPT-OSS 120B.

Baseten
O mais rápido no GLM-5.3 e no DeepSeek V4.1 Flash 1017 com seu nível Fast, mais caro.¹²³⁵
GLM-5.3 tokens/s
150.4
DeepSeek V4.1 Flash 1017 tokens/s
281.1
GLM-5.3-Flash tokens/s
147.4
Vantagens
Seu nível Fast roda o GLM-5.3 a 283.4 tokens/s com primeiro fragmento em 0.90 s e o DeepSeek V4.1 Flash 1017 a 837.1 tokens/s com 0.21 s, a largada mais rápida medida em um modelo atual aqui.¹²³⁵
Limitações
O nível Fast custa mais que o padrão —$2.10/$6.60 contra $1.40/$4.40 no GLM-5.3— e tem Endpoint Accuracy menor (94.18 contra 95.54 do nível padrão).¹²³⁵
¹²³⁵
Together AI
O host mais consistente: segundo em velocidade de saída nos três modelos atuais.¹²³¹⁶
GLM-5.3 tokens/s
164.3
DeepSeek V4.1 Flash 1017 tokens/s
365.0
GLM-5.3-Flash tokens/s
190.1
Vantagens
Roda o GLM-5.3 a 164.3 tokens/s com o primeiro fragmento mais curto desse modelo, 0.67 s, e o DeepSeek V4.1 Flash 1017 a 365.0 tokens/s.¹²³¹⁶
Limitações
Nunca lidera em velocidade de saída: o nível Fast da Baseten é mais rápido no GLM-5.3 e no DeepSeek V4.1 Flash 1017, e sua Endpoint Accuracy no GLM-5.3, 96.39, fica abaixo de DeepInfra e Z.ai.¹²³¹⁶
¹²³¹⁶
CoreWeave
A mais rápida dos sete hosts de GLM-5.3-Flash desta página, e a única medição da CoreWeave em um modelo atual.³¹⁴
GLM-5.3 tokens/s
—
DeepSeek V4.1 Flash 1017 tokens/s
—
GLM-5.3-Flash tokens/s
292.4
Vantagens
Seus 292.4 tokens/s no GLM-5.3-Flash são 1.5× os 190.1 da Together AI e 3.1× os 94.3 da Novita AI, na única rota do modelo medida pela AA na CoreWeave.³¹⁴
Limitações
Não tem linha da AA no GLM-5.3 nem no DeepSeek V4.1 Flash 1017, e seu primeiro fragmento no GLM-5.3-Flash, 1.38 s, é 3.4× os 0.41 s da Baseten.³¹⁴
³¹⁴
Fireworks
No meio da tabela nos dois modelos em que a AA a mede, com primeiro fragmento longo no GLM-5.3-Flash.²³¹⁵
GLM-5.3 tokens/s
—
DeepSeek V4.1 Flash 1017 tokens/s
210.4
GLM-5.3-Flash tokens/s
167.2
Vantagens
Roda o DeepSeek V4.1 Flash 1017 a 210.4 tokens/s, à frente da própria DeepSeek com 169.0 e da Novita AI com 158.0.²³¹⁵
Limitações
Seu primeiro fragmento no GLM-5.3-Flash, 3.16 s, só perde para os 4.00 s da Novita AI entre os sete hosts medidos, e a AA não tem linha de GLM-5.3 para ela.²³¹⁵
²³¹⁵
Novita AI
Medida nos quatro modelos, mas em quarto, sexto e quinto nos três atuais.¹²³⁶⁷⁸
GLM-5.3 tokens/s
105.5
DeepSeek V4.1 Flash 1017 tokens/s
158.0
GLM-5.3-Flash tokens/s
94.3
Vantagens
É um dos três hosts medidos nos quatro modelos, com Together AI e DeepInfra, e seus 238.9 tokens/s no GPT-OSS 120B a colocam em quarto de sete.¹²³⁶⁷⁸
Limitações
Roda o GLM-5.3 a 105.5 tokens/s contra os 283.4 do nível Fast da Baseten, o DeepSeek V4.1 Flash 1017 a 158.0 contra 837.1, e o GLM-5.3-Flash a 94.3 com o primeiro fragmento mais longo do modelo, 4.00 s.¹²³⁶⁷⁸
¹²³⁶⁷⁸
Z.ai
Perto do fim em velocidade no GLM-5.3, mas em primeiro em precisão: o maior Endpoint Accuracy Index desse modelo.¹³¹⁸
GLM-5.3 tokens/s
98.2
DeepSeek V4.1 Flash 1017 tokens/s
—
GLM-5.3-Flash tokens/s
73.5
Vantagens
Seu Endpoint Accuracy Index de 98.74% no GLM-5.3 é o mais alto dos seis hosts medidos, 3.12 pontos acima da Novita AI.¹³¹⁸
Limitações
Roda o GLM-5.3 a 98.2 tokens/s, quinto de seis e 60% dos 164.3 da Together AI, e leva 2.39 s até o primeiro fragmento.¹³¹⁸
¹³¹⁸
DeepInfra
O host mais preciso no GLM-5.3 depois da Z.ai, e o mais lento no DeepSeek V4.1 Flash 1017.¹²³¹⁷
GLM-5.3 tokens/s
97.1
DeepSeek V4.1 Flash 1017 tokens/s
65.3
GLM-5.3-Flash tokens/s
57.2
Vantagens
Seu Endpoint Accuracy Index de 98.6% no GLM-5.3 só perde para a Z.ai, e seu primeiro fragmento de 0.97 s é o terceiro mais curto desse modelo.¹²³¹⁷
Limitações
Seus 65.3 tokens/s no DeepSeek V4.1 Flash 1017 são os mais lentos dos sete hosts, 12.8× atrás do nível Fast da Baseten, e seu preço de tabela de $0.20/$0.60 nesse modelo tem promoção atual a $0.098/$0.294.¹²³¹⁷
¹²³¹⁷

Metodologia e fontes

Velocidade e primeiro fragmento são medianas de provedor da Artificial Analysis de um retrato por modelo, todas com entrada de 10.000 tokens; o primeiro fragmento exclui o tempo de raciocínio, então mede fila e prefill, não pensamento. O Endpoint Accuracy Index v1.0 é expresso em relação a um endpoint de referência e aqui existe só para GLM-5.3 e GPT-OSS 120B. Os preços são as tarifas serverless padrão de entrada/saída de cada provedor, sem descontos de cache.

Medianas não são garantias: um host pode mudar várias posições entre retratos, e roteamento geográfico, níveis em lote e carga de pico alteram os números. Esta página classifica apenas hosts medidos e não faz nenhuma afirmação de velocidade de fornecedor que a AA não sustente. A Novita AI a publica com fontes públicas, sem benchmark privado de carga.

Os provedores são ordenados dentro de cada modelo pela mediana de velocidade de saída da AA, nunca entre modelos, porque o esforço principal da AA muda: Max no GLM-5.3 e no DeepSeek V4.1 Flash 1017, High no GPT-OSS 120B e uma configuração no GLM-5.3-Flash. Empates mantêm a ordem da AA. Os cartões seguem a melhor velocidade de cada provedor em qualquer modelo atual, então um host que lidera um modelo pode ficar acima de outro mais consistente.¹²³⁴

Desenvolva com Novita Model APIs

Crie uma chave de API e conecte sua aplicação.

Comece a desenvolver Explore os modelos

Como ler estes rankings

Velocidade de saída do GLM-5.3

Velocidade de saída do DeepSeek V4.1 Flash 1017

Velocidade de saída do GLM-5.3-Flash

Referência GPT-OSS 120B: onde Groq, Cerebras e SambaNova ainda figuram

Provedor por provedor nos modelos atuais

Baseten

Vantagens

Limitações

Together AI

Vantagens

Limitações

CoreWeave

Vantagens

Limitações

Fireworks

Vantagens

Limitações

Novita AI

Vantagens

Limitações

Z.ai

Vantagens

Limitações

DeepInfra

Vantagens

Limitações

Metodologia e fontes

Desenvolva com Novita Model APIs