LoLLMS WebUI

​

Hoe je Novita AI met LoLLMS WebUI kunt benutten

​

Verkrijg je Novita AI API-sleutel

1. Inloggen naar je Novita AI-account.
2. Navigeer naar de pagina Sleutelbeheer.
3. Genereer een nieuwe API Key en kopieer deze.

​

LoLLMS WebUI installeren

1. Automatische installatie:
   • Download het installatiescript van de map scripts en voer het uit:
     • lollms_installer.bat voor Windows.
     • lollms_installer.sh voor Linux.
     • lollms_installer_macos.sh voor Mac.
2. Handmatige installatie:
   • Zorg ervoor dat Python 3.11 is geïnstalleerd. Controleer je versie met python --version.
   • Download indien nodig Python 3.11 van Python.org.

git clone --recursive https://github.com/ParisNeo/lollms-webui.git
cd lollms-webui
git submodule update --init --recursive

• Maak een virtuele omgeving aan:

python -m venv venv

• Activeer de virtuele omgeving:
  • Op Windows:
    .\venv\Scripts\activate
    
  • Op Linux/Mac:
    source venv/bin/activate
    

pip install -r requirements.txt
pip install -e ./lollms_core

mkdir -p $HOME/.lollms_personal_data

cat > global_paths_cfg.yaml << EOL
lollms_path: $(pwd)/lollms_core/lollms
lollms_personal_path: $HOME/.lollms_personal_data
EOL

​

Configureer Novita AI in LoLLMS WebUI

1. Installeer Novita AI Binding

• Stel omgevingsvariabelen in voor de Novita AI-binding. Bijvoorbeeld:
  • Op Windows:
  set NOVITA_AI_API_KEY="your_api_key_here"
  set NOVITA_AI_MODEL_NAME="your_model_name_here"
  
  • Op Linux/Mac:
  export NOVITA_AI_API_KEY="your_api_key_here"
  export NOVITA_AI_MODEL_NAME="your_model_name_here"
  
• Voer het script uit om de installatie af te ronden:
  python zoos/bindings_zoo/novita_ai/__init__.py
  

2. Start de server

python app.py

3. Gebruik Novita AI in LoLLMS WebUI

• Open je browser en ga naar http://localhost:9600 (of de poort die in de terminal wordt weergegeven).
• Selecteer Novita AI uit de beschikbare bindings.
• Voer je Novita AI API-sleutel in.
• Selecteer je gewenste Novita AI-model.