Hugging Face

​

Utiliser Novita AI sur Hugging Face dans l’interface utilisateur du site web

​

Étape 1 : Configurer les clés API

• Accédez au tableau de bord des paramètres de votre compte pour configurer vos clés API.
• Saisissez vos identifiants d’authentification Novita AI dans la plateforme Hugging Face.
  

​

Étape 2 : Choisir les modes de l’API d’inférence

• Mode Custom Key : Les appels sont envoyés directement au fournisseur d’inférence, en utilisant votre propre clé API.
• Mode HF-Routed : Dans ce mode, aucun jeton de fournisseur n’est requis. Les frais sont appliqués à votre compte Hugging Face au lieu du compte du fournisseur.
  

​

Étape 3 : Explorer les fournisseurs compatibles sur les pages de modèles

• Les pages de modèles affichent les fournisseurs d’inférence tiers compatibles avec le modèle sélectionné (ceux qui sont compatibles avec le modèle actuel, triés selon les préférences de l’utilisateur).
  

​

Utiliser Huggingface_hub depuis Python avec les SDK clients

​

Étape 1 : Installer Huggingface_hub

pip install huggingface_hub

​

Étape 2 : Appeler l’API du modèle en Python

from huggingface_hub import InferenceClient


client = InferenceClient(
    provider="novita",
    api_key="xxxxxxxxxxxxxxxxxxxxxxxx", # optional, required from 2nd calling, get from https://novita.ai/settings/key-management
)

# an example question
messages = [
    dict(
        role="user",
        content='Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally have?',
    ),
]
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-R1",
    messages=messages,
    max_tokens=512,
)

print(completion.choices[0].message)

​

Utiliser Huggingface_hub depuis JS avec les SDK clients

import { HfInference } from "@huggingface/inference";

const client = new HfInference("xxxxxxxxxxxxxxxxxxxxxxxx");

const chatCompletion = await client.chatCompletion({
    model: "deepseek-ai/DeepSeek-R1",
    messages: [
        {
            role: "user",
            content: "What is the capital of France?"
        }
    ],
    provider: "novita",
    max_tokens: 500
});

console.log(chatCompletion.choices[0].message)