Welche offenen Modelle sollte ich verwenden?
Eigentlich gibt es nicht die eine richtige Antwort! Hier ist eine kuratierte Liste basierend auf internen Tests von Novita, Community-Feedback und externen Benchmarks. Wir empfehlen, sie als Ausgangspunkt zu verwenden, und werden sie regelmäßig aktualisieren, sobald neue Modelle erscheinen.- Modellgrößen sind als Klein, Mittel oder Groß gekennzeichnet. Bei MoE-Modellen ist die Größe der aktivierten Parameter entscheidend für die Latenz.
- Für die beste Latenz verwenden Sie kleine oder mittlere Modelle. Für die beste Qualität verwenden Sie große Modelle oder fine-tunen Sie mittlere bzw. kleine Modelle.
- Die unten aufgeführten Modellnamen sind exakte Modell-IDs — kopieren Sie sie direkt in Ihre API-Aufrufe. Jede ID verlinkt auf die jeweilige Modellseite mit aktuellen Preisen und einem Playground.
- Sie können alle Modelle in der Novita Model Library erkunden.