LoLLMS WebUI

​

LoLLMS WebUI で Novita AI を活用する方法

​

Novita AI API Key を取得する

1. Novita AI アカウントにログインします。
2. Key Management ページに移動します。
3. 新しい API Key を生成してコピーします。

​

LoLLMS WebUI をインストールする

1. 自動インストール:
   • scripts フォルダーからインストールスクリプトをダウンロードして実行します:
     • Windows の場合は lollms_installer.bat。
     • Linux の場合は lollms_installer.sh。
     • Mac の場合は lollms_installer_macos.sh。
2. 手動インストール:
   • Python 3.11 がインストールされていることを確認します。python --version でバージョンを確認してください。
   • 必要に応じて、Python.org から Python 3.11 をダウンロードします。

git clone --recursive https://github.com/ParisNeo/lollms-webui.git
cd lollms-webui
git submodule update --init --recursive

• 仮想環境を作成する:

python -m venv venv

• 仮想環境を有効化する:
  • Windows の場合:
    .\venv\Scripts\activate
    
  • Linux/Mac:
    source venv/bin/activate
    

pip install -r requirements.txt
pip install -e ./lollms_core

mkdir -p $HOME/.lollms_personal_data

cat > global_paths_cfg.yaml << EOL
lollms_path: $(pwd)/lollms_core/lollms
lollms_personal_path: $HOME/.lollms_personal_data
EOL

​

LoLLMS WebUI で Novita AI を設定する

1. Novita AI Binding をインストールする

• Novita AI binding 用の環境変数を設定します。例:
  • Windows の場合:
  set NOVITA_AI_API_KEY="your_api_key_here"
  set NOVITA_AI_MODEL_NAME="your_model_name_here"
  
  • Linux/Mac:
  export NOVITA_AI_API_KEY="your_api_key_here"
  export NOVITA_AI_MODEL_NAME="your_model_name_here"
  
• セットアップを完了するためにスクリプトを実行します:
  python zoos/bindings_zoo/novita_ai/__init__.py
  

2. サーバーを実行する

python app.py

3. LoLLMS WebUI で Novita AI を使用する

• ブラウザーを開き、http://localhost:9600（またはターミナルに表示されたポート）に移動します。
• 利用可能な bindings から Novita AI を選択します。
• Novita AI API key を入力します。
• 使用したい Novita AI model を選択します。