¿Qué modelos abiertos debería usar?
En realidad, no hay una única respuesta correcta! Aquí tienes una lista seleccionada basada en pruebas internas de Novita, comentarios de la comunidad y benchmarks externos. Recomendamos usarla como punto de partida, y la actualizaremos regularmente a medida que surjan nuevos modelos.- Los tamaños de los modelos se indican como Pequeño, Mediano o Grande. Para los modelos MoE, el tamaño de los parámetros activados es lo que importa para la latencia.
- Para obtener la mejor latencia, usa modelos pequeños o medianos. Para obtener la mejor calidad, usa modelos grandes o ajusta finamente modelos medianos o pequeños.
- Los nombres de modelos que aparecen a continuación son IDs de modelo exactos: cópialos directamente en tus llamadas a la API. Cada uno enlaza a su página de modelo para ver precios en vivo y un entorno de pruebas.
- Puedes explorar todos los modelos en la Biblioteca de modelos de Novita.