> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# Hugging Face

> Erhalten Sie eine einfache Anleitung, um das AI-Deployment mit Novita AI + Hugging Face zu optimieren. 

Die Integration von Novita AI mit der Hugging Face Platform ermöglicht erweiterte serverlose Inferenzfunktionen. Dies bietet direkten Zugriff auf Hub-Modellseiten über optimierte Infrastruktur und ermöglicht Entwicklern eine schlanke Einrichtung. Mit vollständiger Unterstützung für die JavaScript- und Python-SDKs von Hugging Face vereinfacht Novita AI die Modellbereitstellung und Skalierung ohne Infrastrukturverwaltung.

Unser umfassender Leitfaden führt Sie durch die Implementierung von Novita AI auf Hugging Face und behandelt sowohl die Weboberfläche als auch SDK-Integrationsmethoden.

## **Novita AI auf Hugging Face in der Website-UI verwenden**

### **Schritt 1: API-Schlüssel konfigurieren**

* Greifen Sie auf das Dashboard Ihrer Kontoeinstellungen zu, um Ihre API-Schlüssel zu konfigurieren.
* Geben Sie Ihre Novita AI-Authentifizierungsdaten in die Hugging Face-Plattform ein.

  <Frame>
    <img src="https://mintcdn.com/novitaai/OIO9nfACcX0vhcTI/images/third-party/ConfigureAPIKeysinHuggingFace.jpeg?fit=max&auto=format&n=OIO9nfACcX0vhcTI&q=85&s=7f70e8903dfb2bca046ca9d81271e930" alt=" API-Schlüssel in Hugging Face konfigurieren" width="1678" height="1328" data-path="images/third-party/ConfigureAPIKeysinHuggingFace.jpeg" />
  </Frame>

### **Schritt 2: Inference API-Modi auswählen**

* Custom Key Mode: Aufrufe werden direkt an den Inferenzanbieter gesendet und verwenden Ihren eigenen API-Schlüssel.
* HF-Routed Mode: In diesem Modus ist kein Anbieter-Token erforderlich. Die Gebühren werden Ihrem Hugging Face-Konto statt dem Konto des Anbieters belastet.

  <Frame>
    <img src="https://mintcdn.com/novitaai/OIO9nfACcX0vhcTI/images/third-party/ChooseInferenceAPIModes.png?fit=max&auto=format&n=OIO9nfACcX0vhcTI&q=85&s=b14ffdd53826ab3276300dbf452c2a13" alt="Inference API-Modi auswählen" width="1612" height="624" data-path="images/third-party/ChooseInferenceAPIModes.png" />
  </Frame>

### **Schritt 3: Kompatible Anbieter auf Modellseiten erkunden**

* Modellseiten zeigen Drittanbieter für Inferenz an, die mit dem ausgewählten Modell kompatibel sind (diejenigen, die mit dem aktuellen Modell kompatibel sind, sortiert nach Benutzerpräferenz).

  <Frame>
    <img src="https://mintcdn.com/novitaai/OIO9nfACcX0vhcTI/images/third-party/ExploreCompatibleProvidersonModelPagesinHuggingFace.jpeg?fit=max&auto=format&n=OIO9nfACcX0vhcTI&q=85&s=c4b1d98633c874bbb8133c64890b7eff" alt=" Kompatible Anbieter auf Modellseiten in Hugging Face erkunden" width="2312" height="1196" data-path="images/third-party/ExploreCompatibleProvidersonModelPagesinHuggingFace.jpeg" />
  </Frame>

## **Huggingface\_hub aus Python über die Client-SDKs verwenden**

### **Schritt 1: Installieren** [**Huggingface\_hub**](https://github.com/huggingface/huggingface_hub)

```python theme={"system"}
pip install huggingface_hub
```

### **Schritt 2: Modell-API in Python aufrufen**

```python theme={"system"}
from huggingface_hub import InferenceClient


client = InferenceClient(
    provider="novita",
    api_key="xxxxxxxxxxxxxxxxxxxxxxxx", # optional, required from 2nd calling, get from https://novita.ai/settings/key-management
)

# an example question
messages = [
    dict(
        role="user",
        content='Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally have?',
    ),
]
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-R1",
    messages=messages,
    max_tokens=512,
)

print(completion.choices[0].message)
```

## **Huggingface\_hub aus JS über die Client-SDKs verwenden**

```json theme={"system"}
import { HfInference } from "@huggingface/inference";

const client = new HfInference("xxxxxxxxxxxxxxxxxxxxxxxx");

const chatCompletion = await client.chatCompletion({
    model: "deepseek-ai/DeepSeek-R1",
    messages: [
        {
            role: "user",
            content: "What is the capital of France?"
        }
    ],
    provider: "novita",
    max_tokens: 500
});

console.log(chatCompletion.choices[0].message)
```
