> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.

# LiteLLM

> Novita AI と LiteLLM で AI アプリケーションを強化しましょう。

LiteLLM は、OpenAI 形式の統一インターフェースを通じて、100 種類を超える LLM へのアクセス、利用額の追跡、フォールバックを提供するオープンソースの Python ライブラリ兼プロキシサーバーです。Novita AI の最先端モデルを活用することで、LiteLLM との統合により、シームレスなモデル切り替え、信頼性の高いフォールバック、インテリジェントなリクエストルーティングを AI アプリケーションに組み込めます。これらはすべて、複数プロバイダー間の互換性を確保する標準化された completion API を通じて利用できます。

このガイドでは、Novita AI と LiteLLM の統合をすばやく始める方法を紹介し、この強力な組み合わせを簡単にセットアップしてワークフローを効率化できるようにします。

## **Novita AI を LiteLLM と統合する方法**

### ステップ 1: LiteLLM をインストールする

* pip を使用して LiteLLM ライブラリをインストールし、さまざまな言語モデルを扱うための統一インターフェースを作成します。

```bash theme={"system"}
pip install litellm
```

### ステップ 2: API 認証情報を設定する

* Novita AI の[キー管理ページ](https://novita.ai/settings/key-management)にログインし、`Add New Key`をクリックして API キーを生成します。

  <img src="https://mintcdn.com/novitaai/H3Kjvdvlhgt0Aohj/images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png?fit=max&auto=format&n=H3Kjvdvlhgt0Aohj&q=85&s=ba76fbe63ca9f6246b5b7254ced54252" alt="キー管理ページにアクセスし、Add New Key を選択して API キーを生成する" width="1280" height="689" data-path="images/-VisitthekeymanagementpageandselectAddNewKeytogenerateyourAPIkey..png" />

### ステップ 3: 基本的な API 呼び出しを構成する

* LiteLLM の標準化されたインターフェースを通じて、Novita AI のモデルへの completion リクエストを作成します。

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita-api-key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages=[{ "content": "Hello, how are you?","role": "user"}]
)
```

### ステップ 4: より良いユーザー体験のためにストリーミングを実装する

* よりインタラクティブなアプリケーションや、長いレスポンスを処理する場合に備えて、ストリーミングモードを有効にします。

```python theme={"system"}
from litellm import completion
import os

## set ENV variables. Visit https://novita.ai/settings/key-management to get your API key
os.environ["NOVITA_API_KEY"] = "novita_api_key"

response = completion(
  model="novita/deepseek/deepseek-r1",
  messages = [{ "content": "Hello, how are you?","role": "user"}],
  stream=True,
)
```