LoLLMS WebUI

​

So nutzen Sie Novita AI mit LoLLMS WebUI

​

Ihren Novita AI API Key erhalten

1. Melden Sie sich an bei Ihrem Novita AI-Konto.
2. Navigieren Sie zur Key Management-Seite.
3. Generieren Sie einen neuen API Key und kopieren Sie ihn.

​

LoLLMS WebUI installieren

1. Automatische Installation:
   • Laden Sie das Installationsskript aus dem scripts-Ordner herunter und führen Sie es aus:
     • lollms_installer.bat für Windows.
     • lollms_installer.sh für Linux.
     • lollms_installer_macos.sh für Mac.
2. Manuelle Installation:
   • Stellen Sie sicher, dass Python 3.11 installiert ist. Überprüfen Sie Ihre Version mit python --version.
   • Laden Sie Python 3.11 bei Bedarf von Python.org herunter.

git clone --recursive https://github.com/ParisNeo/lollms-webui.git
cd lollms-webui
git submodule update --init --recursive

• Eine virtuelle Umgebung erstellen:

python -m venv venv

• Die virtuelle Umgebung aktivieren:
  • Unter Windows:
    .\venv\Scripts\activate
    
  • Unter Linux/Mac:
    source venv/bin/activate
    

pip install -r requirements.txt
pip install -e ./lollms_core

mkdir -p $HOME/.lollms_personal_data

cat > global_paths_cfg.yaml << EOL
lollms_path: $(pwd)/lollms_core/lollms
lollms_personal_path: $HOME/.lollms_personal_data
EOL

​

Novita AI in LoLLMS WebUI konfigurieren

1. Novita AI Binding installieren

• Legen Sie Umgebungsvariablen für das Novita AI Binding fest. Zum Beispiel:
  • Unter Windows:
  set NOVITA_AI_API_KEY="your_api_key_here"
  set NOVITA_AI_MODEL_NAME="your_model_name_here"
  
  • Unter Linux/Mac:
  export NOVITA_AI_API_KEY="your_api_key_here"
  export NOVITA_AI_MODEL_NAME="your_model_name_here"
  
• Führen Sie das Skript aus, um die Einrichtung abzuschließen:
  python zoos/bindings_zoo/novita_ai/__init__.py
  

2. Den Server ausführen

python app.py

3. Novita AI in LoLLMS WebUI verwenden

• Öffnen Sie Ihren Browser und navigieren Sie zu http://localhost:9600 (oder zu dem im Terminal angezeigten Port).
• Wählen Sie Novita AI aus den verfügbaren Bindings aus.
• Geben Sie Ihren Novita AI API Key ein.
• Wählen Sie Ihr gewünschtes Novita AI-Modell aus.