> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# LiteLLM

> Boostez vos applications d’IA avec Novita AI et LiteLLM.

LiteLLM est une bibliothèque Python open-source et un serveur proxy qui fournit l’accès, le suivi des dépenses et des solutions de repli pour plus de 100 LLM via une interface unifiée au format OpenAI. En tirant parti des modèles de pointe de Novita AI, l’intégration avec LiteLLM donne à vos applications d’IA la possibilité de changer de modèle sans effort, de bénéficier de solutions de repli fiables et d’un routage intelligent des requêtes, le tout via une API de complétion standardisée qui garantit la compatibilité entre plusieurs fournisseurs.

Ce guide vous montrera comment démarrer rapidement l’intégration de Novita AI et LiteLLM, afin de configurer cette combinaison puissante et de simplifier facilement votre workflow.

## **Comment intégrer Novita AI avec LiteLLM**

### Étape 1 : Installer LiteLLM

* Installez la bibliothèque LiteLLM à l’aide de pip afin de créer une interface unifiée pour travailler avec différents modèles de langage.

```bash theme={"system"}
pip install litellm
```

### Étape 2 : Configurer vos identifiants API

* Connectez-vous à [la page de gestion des clés](https://novita.ai/settings/key-management) dans Novita AI et cliquez sur `Add New Key` pour générer votre clé API.

  <img src="https://mintcdn.com/novitaai/H3Kjvdvlhgt0Aohj/images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png?fit=max&auto=format&n=H3Kjvdvlhgt0Aohj&q=85&s=ba76fbe63ca9f6246b5b7254ced54252" alt="Visitez la page de gestion des clés et sélectionnez Add New Key pour générer votre clé API" width="1280" height="689" data-path="images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png" />

### Étape 3 : Structurer votre appel API de base

* Créez une requête de complétion vers les modèles de Novita AI via l’interface standardisée de LiteLLM.

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita-api-key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)
```

### Étape 4 : Implémenter le streaming pour une meilleure expérience utilisateur

* Activez le mode streaming pour des applications plus interactives ou lors du traitement de réponses plus longues.

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita_api_key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages = [{ "content": "Hello, how are you?","role": "user"}],
  stream=True,
)
```