> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# LiteLLM

> Optimieren Sie Ihre AI-Anwendungen mit Novita AI und LiteLLM.

LiteLLM ist eine Open-Source-Python-Bibliothek und ein Proxy-Server, der Zugriff, Ausgabenverfolgung und Fallbacks für über 100 LLMs über eine einheitliche Schnittstelle im OpenAI-Format bietet. Durch die Nutzung der hochmodernen Modelle von Novita AI ermöglicht die Integration mit LiteLLM Ihren AI-Anwendungen nahtloses Modellwechseln, zuverlässige Fallbacks und intelligentes Request-Routing — alles über eine standardisierte Completion API, die Kompatibilität über mehrere Anbieter hinweg sicherstellt.

Diese Anleitung zeigt Ihnen, wie Sie schnell mit der Integration von Novita AI und LiteLLM beginnen, diese leistungsstarke Kombination einrichten und Ihren Workflow mühelos optimieren können.

## **So integrieren Sie Novita AI mit LiteLLM**

### Schritt 1: LiteLLM installieren

* Installieren Sie die LiteLLM-Bibliothek mit pip, um eine einheitliche Schnittstelle für die Arbeit mit verschiedenen Sprachmodellen zu erstellen.

```bash theme={"system"}
pip install litellm
```

### Schritt 2: Ihre API-Anmeldeinformationen einrichten

* Melden Sie sich bei [der Schlüsselverwaltungsseite](https://novita.ai/settings/key-management) in Novita AI an und klicken Sie auf `Add New Key`, um Ihren API-Schlüssel zu generieren.

  <img src="https://mintcdn.com/novitaai/H3Kjvdvlhgt0Aohj/images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png?fit=max&auto=format&n=H3Kjvdvlhgt0Aohj&q=85&s=ba76fbe63ca9f6246b5b7254ced54252" alt="Besuchen Sie die Schlüsselverwaltungsseite und wählen Sie Add New Key aus, um Ihren API-Schlüssel zu generieren" width="1280" height="689" data-path="images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png" />

### Schritt 3: Ihren grundlegenden API-Aufruf strukturieren

* Erstellen Sie eine Completion-Anfrage an die Modelle von Novita AI über die standardisierte Schnittstelle von LiteLLM.

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita-api-key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)
```

### Schritt 4: Streaming für eine bessere Benutzererfahrung implementieren

* Aktivieren Sie den Streaming-Modus für interaktivere Anwendungen oder wenn Sie längere Antworten verarbeiten.

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita_api_key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages = [{ "content": "Hello, how are you?","role": "user"}],
  stream=True,
)
```