> ## Documentation Index
> Fetch the complete documentation index at: https://novita.ai/docs/llms.txt
> Use this file to discover all available pages before exploring further.
# Axolotl auf Novita AI ausführen
> Erfahren Sie, wie Sie große Sprachmodelle (LLMs) mühelos mit Axolotl auf Novita AI feinabstimmen.
Axolotl bietet ein robustes, flexibles Framework zum Trainieren von LLMs mit fortschrittlichen Techniken und unterstützt verschiedene Modellarchitekturen und Trainingsstrategien. Ideal für Forschende und Entwickler: Axolotl in Kombination mit der leistungsstarken, hardwarefreien Infrastruktur von Novita AI optimiert Arbeitsabläufe und beseitigt Einschränkungen durch lokale Hardware.
Diese Anleitung bietet eine Schritt-für-Schritt-Anleitung zum Bereitstellen und Ausführen von Axolotl auf Novita AI und erschließt das volle Potenzial Ihrer Projekte zum Training von KI-Modellen.
## So verwenden Sie Axolotl:main-latest auf Novita AI
Schritt 1: Zugriff auf [**die GPU Instance Console**](https://novita.ai/gpus)
* Klicken Sie auf `Get Started`, um auf die GPU Instance Console zuzugreifen.
Schritt 2: Template und GPU-Typ auswählen
* Durchsuchen Sie verschiedene offizielle Templates und GPU-Kartenoptionen.
* Wählen Sie [**das Axolotl:main-latest-Template**](https://novita.ai/gpus-console?templateId=311).
* Klicken Sie unter der 4090-GPU-Karte auf `Deploy`, um zur Seite zur Instanzerstellung zu gelangen.
Schritt 3: Festplatten- und Konfigurationsparameter anpassen
* Passen Sie im Abschnitt `Disk` die Größe der Systemfestplatte und der lokalen Festplatte an.
* Ändern Sie im Abschnitt `Configuration` Einstellungen wie Image, Startbefehle, Ports und Umgebungsvariablen.
* Aktivieren Sie das Kontrollkästchen für Start Jupyter Notebook, um Jupyter zu starten.
Schritt 4: Konfiguration bestätigen und bereitstellen
* Überprüfen Sie die Instanzkonfiguration und die Kosten auf der Bestätigungsseite.
* Klicken Sie auf `Deploy`, um den Bereitstellungsprozess zu starten.
Schritt 5: Warten, bis die Bereitstellung abgeschlossen ist
* Warten Sie, bis die Bereitstellung der Instanz abgeschlossen ist.
Schritt 6: Instanzen verwalten und überwachen
* Sobald die Bereitstellung abgeschlossen ist, leitet Sie das System zur Seite `Instance Management` weiter.
* Suchen Sie Ihre neu erstellte Instanz, die anfangs den Status Pulling anzeigt (dies bedeutet, dass das Image heruntergeladen wird).
* Klicken Sie auf den kleinen Pfeil auf der rechten Seite der Instanz, um Details anzuzeigen.
* Überwachen Sie den Fortschritt des Image-Downloads. Nach Abschluss wechselt die Instanz in den Status Running.
* Klicken Sie auf `Logs`, um Bereitstellungsprotokolle anzuzeigen.
### 
Schritt 7: Instanzprotokolle prüfen
* Wechseln Sie zum Tab `Instance Logs`, um zu prüfen, ob der Dienst gestartet wird.
* Warten Sie, bis die Initialisierung des Dienstes abgeschlossen ist.
### 
Schritt 8: Mit Jupyter Lab verbinden
* Schließen Sie die Protokollseite.
* Klicken Sie auf `Connect`, um die Seite mit den Verbindungsinformationen zu öffnen.
* Suchen Sie den Abschnitt `Connection Options` und klicken Sie auf `Connect to Jupyter Lab`, um auf die Jupyter-Oberfläche zuzugreifen.
### 
Schritt 9: Auf Jupyter Lab zugreifen
* Warten Sie, bis die Weboberfläche von Jupyter Lab geladen ist.
* Öffnen Sie `Terminal`, um ein offizielles Beispiel auszuführen und zu überprüfen, ob der Dienst korrekt funktioniert.
### 
Schritt 10: Ein Fine-Tuning-Beispiel ausführen
* Führen Sie den offiziellen Beispielcode aus, um eine Fine-Tuning-Aufgabe durchzuführen.
```bash theme={"system"}
# Fetch axolotl examples
axolotl fetch examples
# Or, specify a custom path
axolotl fetch examples --dest path/to/folder
# Train a model using LoRA
axolotl train examples/llama-3/lora-1b.yml
```
**Hinweis:** Sie können den standardmäßigen Einhängepfad für das Netzwerk-Volume in der Konsole nicht ändern. Er kann nur beim Erstellen einer Instanz oder über OpenAPI festgelegt werden. Legen Sie den gewünschten Einhängepfad während der Instanzerstellung fest, wenn Sie ein Volume anhängen.