Hugging Face

​

Uso de Novita AI en Hugging Face desde la interfaz de usuario del sitio web

​

Paso 1: Configurar claves API

• Accede al panel de configuración de tu cuenta para configurar tus claves API.
• Introduce tus credenciales de autenticación de Novita AI en la plataforma Hugging Face.
  

​

Paso 2: Elegir modos de Inference API

• Custom Key Mode: Las llamadas se envían directamente al proveedor de inferencia, utilizando tu propia clave API.
• HF-Routed Mode: En este modo, no se requiere ningún token del proveedor. Los cargos se aplican a tu cuenta de Hugging Face en lugar de a la cuenta del proveedor.
  

​

Paso 3: Explorar proveedores compatibles en las páginas de modelos

• Las páginas de modelos muestran proveedores de inferencia de terceros compatibles con el modelo seleccionado (aquellos que son compatibles con el modelo actual, ordenados según la preferencia del usuario).
  

​

Uso de Huggingface_hub desde Python con los SDKs de cliente

​

Paso 1: Instalar Huggingface_hub

pip install huggingface_hub

​

Paso 2: Llamar a la API del modelo en Python

from huggingface_hub import InferenceClient


client = InferenceClient(
    provider="novita",
    api_key="xxxxxxxxxxxxxxxxxxxxxxxx", # optional, required from 2nd calling, get from https://novita.ai/settings/key-management
)

# an example question
messages = [
    dict(
        role="user",
        content='Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally have?',
    ),
]
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-R1",
    messages=messages,
    max_tokens=512,
)

print(completion.choices[0].message)

​

Uso de Huggingface_hub desde JS con los SDKs de cliente

import { HfInference } from "@huggingface/inference";

const client = new HfInference("xxxxxxxxxxxxxxxxxxxxxxxx");

const chatCompletion = await client.chatCompletion({
    model: "deepseek-ai/DeepSeek-R1",
    messages: [
        {
            role: "user",
            content: "What is the capital of France?"
        }
    ],
    provider: "novita",
    max_tokens: 500
});

console.log(chatCompletion.choices[0].message)