LiteLLM

​

Comment intégrer Novita AI avec LiteLLM

​

Étape 1 : Installer LiteLLM

• Installez la bibliothèque LiteLLM à l’aide de pip afin de créer une interface unifiée pour travailler avec différents modèles de langage.

pip install litellm

​

Étape 2 : Configurer vos identifiants API

• Connectez-vous à la page de gestion des clés dans Novita AI et cliquez sur Add New Key pour générer votre clé API.

​

Étape 3 : Structurer votre appel API de base

• Créez une requête de complétion vers les modèles de Novita AI via l’interface standardisée de LiteLLM.

from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita-api-key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)

​

Étape 4 : Implémenter le streaming pour une meilleure expérience utilisateur

• Activez le mode streaming pour des applications plus interactives ou lors du traitement de réponses plus longues.

from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita_api_key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages = [{ "content": "Hello, how are you?","role": "user"}],
  stream=True,
)