Skip to main content
LiteLLM は、OpenAI 形式の統一インターフェースを通じて、100 種類を超える LLM へのアクセス、利用額の追跡、フォールバックを提供するオープンソースの Python ライブラリ兼プロキシサーバーです。Novita AI の最先端モデルを活用することで、LiteLLM との統合により、シームレスなモデル切り替え、信頼性の高いフォールバック、インテリジェントなリクエストルーティングを AI アプリケーションに組み込めます。これらはすべて、複数プロバイダー間の互換性を確保する標準化された completion API を通じて利用できます。 このガイドでは、Novita AI と LiteLLM の統合をすばやく始める方法を紹介し、この強力な組み合わせを簡単にセットアップしてワークフローを効率化できるようにします。

Novita AI を LiteLLM と統合する方法

ステップ 1: LiteLLM をインストールする

  • pip を使用して LiteLLM ライブラリをインストールし、さまざまな言語モデルを扱うための統一インターフェースを作成します。

ステップ 2: API 認証情報を設定する

  • Novita AI のキー管理ページにログインし、Add New Keyをクリックして API キーを生成します。 キー管理ページにアクセスし、Add New Key を選択して API キーを生成する

ステップ 3: 基本的な API 呼び出しを構成する

  • LiteLLM の標準化されたインターフェースを通じて、Novita AI のモデルへの completion リクエストを作成します。

ステップ 4: より良いユーザー体験のためにストリーミングを実装する

  • よりインタラクティブなアプリケーションや、長いレスポンスを処理する場合に備えて、ストリーミングモードを有効にします。
最終更新日 2026年5月15日