Kimi K3.1 Pro vs GPT-6 Astra: custos com contexto longo

Na comparação publicada pela Moonshot, GPT tem resultados maiores em código Long-horizon e BenchCAD com ferramentas; Kimi pontua mais em Terminal-Bench 4.0 e OfficeQA Pro v2. Uma diferença maior de preço não torna as respostas intercambiáveis.

Fontes: ³

Resultados publicados pelo fornecedor. A metodologia descreve as configurações e as fontes.

Outras avaliações de tarefas publicadas pela Moonshot

A vantagem publicada do GPT diz respeito a tarefas longas de programação e à escrita de código CAD a partir de imagens. O maior resultado do Kimi em OfficeQA Pro v2 diz respeito a perguntas sobre documentos financeiros. Ferramentas e configurações diferem; os resultados não definem um vencedor geral nem entre endpoints testados nas mesmas condições.³

Requisições posteriores podem reenviar mensagens anteriores, arquivos e resultados de ferramentas. Some o custo de cada requisição para estimar o gasto total da conversa.

O exemplo sem cache com 400,000 tokens de entrada e 20,000 de saída custa $1 com Kimi e $9.50 com GPT. Reduzir o material reenviado pode baixar o custo de entrada, mas resumir ou recuperar informações também tem um custo.

Fontes: ¹²³

Os preços comparam Kimi na Novita com a API OpenAI. O código usa o endpoint Kimi da Novita.⁷²

As tarifas GPT-6 Astra da primeira tabela valem para prompts de até 272,000 tokens de entrada. Acima do limite, toda a requisição usa as tarifas maiores de entrada, cache e saída explicadas abaixo. Kimi usa as tarifas síncronas publicadas da Novita.

Fontes: ¹²

O novo prefixo é cobrado pela gravação de cache em vez da entrada sem cache e precisa ser elegível. Esta linha usa o preço Novita de 5 minutos para Kimi e o preço padrão OpenAI com duração mínima de 30 minutos para GPT; os períodos diferem. A linha de cache ativo é uma requisição posterior com leitura bem-sucedida.

Cada linha fixa as quantidades de entrada e saída para calcular o custo de tokens. A leitura do cache exige um acerto. Ferramentas, execução do Sandbox, armazenamento, rede e impostos são separados; descontos negociados e processamento em lote ficam excluídos.

GPT-6 Astra: o exemplo de 400,000 tokens inclui o adicional em toda a requisição: $20 / 1M de entrada e $75 / 1M de saída; $8 + $1.50 = $9.50.

Os valores GPT usam os preços padrão da API síncrona OpenAI. Tokens de prefixo recém-gravados usam a tarifa de gravação em vez da entrada sem cache; acertos posteriores usam a tarifa de entrada em cache. Assinaturas, Batch, Flex e Fast ficam excluídos.

Kimi na Novita lista $2 / 1M tokens para gravação de cache de 5 minutos e $4 para 1 hora. A tarifa GPT-6 Astra de $12.5 / 1M tokens corresponde à duração mínima padrão de 30 minutos da OpenAI, no preço de contexto curto. O exemplo de cache frio usa 5 minutos para Kimi e 30 minutos para GPT: compara custos com durações diferentes. A opção OpenAI de 12 horas fica fora do exemplo.

Fontes: ¹²⁹

As páginas Novita abreviam os limites Kimi como 1M. O catálogo público especifica 1,048,576 tokens para contexto e saída máxima; a tabela usa esses valores exatos. A mesma etiqueta 1M em provedores diferentes não comprova limites idênticos.¹⁷

Contexto e saída máxima são limites publicados, não promessa de consumir ambos por completo em uma requisição. Aplique as regras de contexto total e geração do endpoint.

Fontes: ¹²⁷

Estime a entrada enviada em cada etapa, incluindo resultados de ferramentas, e compare o custo da conversa completa. Use uma requisição curta e outra longa; olhar só a curta não mostra o efeito do limite de preços do GPT.

Se o assistente precisar executar código, Novita Agent Sandbox pode fornecer o ambiente; a aplicação controla os comandos. Resultados de ferramentas reenviados a qualquer um dos modelos entram nas próximas entradas, podendo aproximar uma conversa GPT do limite de preços. A execução do Sandbox é cobrada separadamente.

Explorar o Novita Agent Sandbox · Criar um ambiente de execução reproduzível

Fontes: ⁵⁶

O exemplo chama Kimi pela Novita e mostra sua resposta e uso. Comparar GPT exige uma requisição separada à API OpenAI.

A geração é limitada a 1,024 tokens, incluindo os tokens de raciocínio contados pelo endpoint. Se a resposta estiver vazia ou for interrompida pelo limite de tokens, o código exibe um aviso e não solicita outra resposta automaticamente. Confira o uso antes de aumentar o limite.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai/v1",
)

for model in ["moonshotai/kimi-k3.1-pro"]:
    reply = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": "Review a repository bug fix: list the implementation steps and acceptance tests."}],
        max_tokens=1024,
    )
    choice = reply.choices[0]
    content = choice.message.content or ""
    print(model, "finish_reason:", choice.finish_reason)
    print("usage:", reply.usage)
    if choice.finish_reason == "length" or not content.strip():
        print("No complete answer. Inspect usage and adjust the generation budget before another request.")
    else:
        print(content)

Fontes: ⁴

Fontes: ¹²⁹