Descripción general
Los modelos de razonamiento son modelos de lenguaje avanzados optimizados para tareas complejas de resolución de problemas. Al generar pasos de razonamiento detallados (cadena de pensamiento), mejoran la precisión de las respuestas en escenarios analíticos.Casos de uso típicos
- Resolución de problemas complejos: Adecuados para tareas que requieren lógica paso a paso, como razonamiento matemático o científico.
- Sistemas de apoyo a la toma de decisiones: Ayudan a explicar la lógica detrás de las conclusiones proporcionando procesos de razonamiento detallados.
- Educación y formación: Ayudan a los estudiantes a comprender conceptos complejos presentando claramente los procesos de derivación.
Instalación y configuración
Antes de usar modelos de razonamiento, asegúrate de que esté instalado el SDK de OpenAI más reciente:Uso de la API
Usa el endpoint/chat/completions para invocar modelos de razonamiento.
Parámetros de la solicitud
max_tokens: Establece el número máximo de tokens que el modelo puede devolver.temperature: Se recomienda entre 0.5 y 0.7 (sugerido: 0.6) para equilibrar creatividad y lógica.top_p: El valor recomendado es 0.95.
Código de ejemplo
Respuesta en streaming
Respuesta sin streaming
Gestión del contexto
Las salidas de razonamiento no se trasladan automáticamente a la siguiente ronda de diálogo. Debes mantener manualmente el historial de mensajes:Modelos compatibles
Actualmente, los siguientes modelos de razonamiento son compatibles con la plataforma Novita:Facturación
- La facturación se basa en el número de tokens tanto de entrada como de salida.
- Consulta la página de precios de cada modelo para conocer las reglas específicas de facturación y los detalles de conversión de tokens.
Notas y prácticas recomendadas
- Evita colocar instrucciones de razonamiento en el mensaje
system. En su lugar, haz explícita la intención en el mensajeuser. - Para tareas matemáticas, instruye claramente al modelo, por ejemplo: “Please reason step by step and provide a final answer.”
- Para evitar que el modelo omita pasos de razonamiento, considera pedir una nueva línea antes de la respuesta final.