Quais modelos abertos devo usar?
Na verdade, não há uma única resposta correta! Aqui está uma lista curada com base em testes internos da Novita, feedback da comunidade e benchmarks externos. Recomendamos usá-la como ponto de partida, e a atualizaremos regularmente conforme novos modelos surgirem.- Os tamanhos dos modelos são marcados como Pequeno, Médio ou Grande. Para modelos MoE, o tamanho dos parâmetros ativados é o que importa para a latência.
- Para melhor latência, use modelos pequenos ou médios. Para melhor qualidade, use modelos grandes ou ajuste modelos médios ou pequenos com fine-tuning.
- Os nomes dos modelos abaixo são IDs de modelo exatos — copie-os diretamente para suas chamadas de API. Cada um aponta para sua página de modelo com preços em tempo real e um playground.
- Você pode explorar todos os modelos na Biblioteca de Modelos da Novita.