Kimi K3.1 Pro vs GPT-6 Astra : coûts en contexte long

Dans la comparaison publiée par Moonshot, GPT obtient les meilleurs résultats sur Long-horizon et BenchCAD avec outils ; Kimi sur Terminal-Bench 4.0 et OfficeQA Pro v2. Un grand écart de prix ne signifie pas que les réponses sont interchangeables.

Sources : ³

Résultats publiés par le fournisseur. La méthodologie décrit les paramètres et les sources.

Autres évaluations de tâches publiées par Moonshot

L’avantage publié de GPT concerne les longues tâches de programmation et l’écriture de code CAD à partir d’images. Le meilleur résultat de Kimi sur OfficeQA Pro v2 concerne les questions sur des documents financiers. Les outils et réglages diffèrent : ces résultats ne désignent ni un gagnant universel ni un gagnant d’un essai d’endpoints aux conditions identiques.³

Les requêtes suivantes peuvent renvoyer les messages précédents, les fichiers et les résultats d’outils. Additionnez le coût de chaque requête pour estimer le coût total de la conversation.

L’exemple sans cache de 400,000 tokens d’entrée et 20,000 de sortie coûte $1 avec Kimi et $9.50 avec GPT. Réduire le contenu retransmis peut diminuer les frais d’entrée, mais le résumé ou la recherche d’informations supplémentaire a aussi un coût.

Sources : ¹²³

Les prix comparent Kimi sur Novita à l’API OpenAI. Le code utilise l’endpoint Kimi de Novita.⁷²

Les tarifs GPT-6 Astra du premier tableau s’appliquent aux prompts d’au plus 272,000 tokens d’entrée. Au-delà, toute la requête utilise les tarifs supérieurs d’entrée, de cache et de sortie expliqués ensuite. Kimi utilise les tarifs synchrones publiés par Novita.

Sources : ¹²

Le nouveau préfixe est facturé au tarif d’écriture du cache au lieu de l’entrée sans cache et doit être éligible. Cette ligne utilise 5 minutes chez Novita pour Kimi et le prix par défaut d’OpenAI avec une durée minimale de 30 minutes pour GPT ; les durées diffèrent. La ligne de cache actif est une requête ultérieure avec lecture du cache réussie.

Chaque ligne fixe les volumes d’entrée et de sortie pour calculer le coût des tokens. La lecture du cache suppose un accès réussi. Outils, exécution du Sandbox, stockage, réseau et taxes sont séparés ; remises négociées et traitement par lots sont exclus.

GPT-6 Astra : l’exemple de 400,000 tokens inclut le supplément sur toute la requête : $20 / 1M en entrée et $75 / 1M en sortie ; $8 + $1.50 = $9.50.

Les chiffres GPT utilisent les tarifs standard de l’API synchrone OpenAI. Les tokens de préfixe nouvellement mis en cache utilisent le tarif d’écriture au lieu de celui d’entrée sans cache ; les lectures ultérieures servies depuis le cache utilisent le tarif d’entrée en cache. Abonnements, Batch, Flex et Fast sont exclus.

Kimi sur Novita affiche $2 / 1M tokens pour une écriture de cache de 5 minutes et $4 pour 1 heure. Le tarif GPT-6 Astra de $12.5 / 1M tokens correspond à la durée minimale de cache par défaut d’OpenAI de 30 minutes, au tarif de contexte court. L’exemple de cache froid utilise 5 minutes pour Kimi et 30 minutes pour GPT : il compare des coûts à durées différentes. L’option OpenAI de 12 heures est exclue.

Sources : ¹²⁹

Les fiches Novita abrègent les limites Kimi en 1M. Le catalogue public précise 1,048,576 tokens pour le contexte et la sortie maximale ; ce tableau utilise ces valeurs exactes. Une même étiquette 1M ne prouve pas des limites identiques entre fournisseurs.¹⁷

Le contexte et la sortie maximale sont des limites publiées, pas la promesse de pouvoir utiliser les deux intégralement dans une requête. Appliquez les règles de contexte total et de génération de l’endpoint.

Sources : ¹²⁷

Estimez les entrées envoyées à chaque étape, résultats d’outils compris, puis comparez le coût de toute la conversation. Essayez une requête courte et une longue : le seul exemple court ne montre pas l’effet du seuil tarifaire de GPT.

Si l’assistant doit exécuter du code, Novita Agent Sandbox peut fournir l’environnement ; l’application contrôle les commandes. Les résultats d’outils renvoyés à l’un ou l’autre modèle augmentent les entrées suivantes et peuvent rapprocher une conversation GPT du seuil tarifaire. L’exécution du Sandbox est facturée séparément.

Découvrir Novita Agent Sandbox · Créer un environnement d’exécution reproductible

Sources : ⁵⁶

L’exemple appelle Kimi via Novita et affiche sa réponse et son utilisation. Une comparaison avec GPT nécessite une requête distincte à l’API OpenAI.

La génération est limitée à 1,024 tokens, y compris les tokens de raisonnement comptés par l’endpoint. En cas de réponse vide ou interrompue par la limite de tokens, le code affiche un avertissement et ne demande pas automatiquement une autre réponse. Examinez l’utilisation avant d’augmenter la limite.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai/v1",
)

for model in ["moonshotai/kimi-k3.1-pro"]:
    reply = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": "Review a repository bug fix: list the implementation steps and acceptance tests."}],
        max_tokens=1024,
    )
    choice = reply.choices[0]
    content = choice.message.content or ""
    print(model, "finish_reason:", choice.finish_reason)
    print("usage:", reply.usage)
    if choice.finish_reason == "length" or not content.strip():
        print("No complete answer. Inspect usage and adjust the generation budget before another request.")
    else:
        print(content)

Sources : ⁴

Sources : ¹²⁹