Présentation
Les modèles de raisonnement sont des modèles de langage avancés optimisés pour les tâches complexes de résolution de problèmes. En générant des étapes de raisonnement détaillées (chaîne de pensée), ils améliorent la précision des réponses dans les scénarios analytiques.Cas d’utilisation typiques
- Résolution de problèmes complexes : Convient aux tâches nécessitant une logique étape par étape, comme le raisonnement mathématique ou scientifique.
- Systèmes d’aide à la décision : Aide à expliquer la logique derrière les conclusions en fournissant des processus de raisonnement détaillés.
- Éducation et formation : Aide les apprenants à comprendre des concepts complexes en présentant clairement les processus de dérivation.
Installation et configuration
Avant d’utiliser les modèles de raisonnement, assurez-vous que le dernier SDK OpenAI est installé :Utilisation de l’API
Utilisez l’endpoint/chat/completions pour invoquer les modèles de raisonnement.
Paramètres de requête
max_tokens: Définit le nombre maximal de tokens que le modèle peut renvoyer.temperature: Recommandé entre 0,5 et 0,7 (suggestion : 0,6) pour équilibrer créativité et logique.top_p: La valeur recommandée est 0,95.
Exemple de code
Réponse en streaming
Réponse sans streaming
Gestion du contexte
Les sorties de raisonnement ne sont pas automatiquement reportées au tour de dialogue suivant. Vous devez maintenir manuellement l’historique des messages :Modèles pris en charge
Les modèles de raisonnement suivants sont actuellement pris en charge sur la plateforme Novita :Facturation
- La facturation est basée sur le nombre de tokens, à la fois pour l’entrée et pour la sortie.
- Veuillez consulter la page de tarification de chaque modèle pour connaître les règles de facturation spécifiques et les détails de conversion des tokens.
Remarques et bonnes pratiques
- Évitez de placer des instructions de raisonnement dans le message
system. Rendez plutôt l’intention explicite dans le messageuser. - Pour les tâches mathématiques, donnez des instructions claires au modèle, par exemple : « Veuillez raisonner étape par étape et fournir une réponse finale. »
- Pour empêcher le modèle de sauter des étapes de raisonnement, envisagez de demander un saut de ligne avant la réponse finale.