Instanzen erstellen

Schritt 1: Docker-Image vorbereiten

Sie müssen Ihre Laufzeitumgebung in ein Docker-Image paketieren und dieses vorab in ein Image-Repository hochladen. Derzeit unterstützt Novita AI die Angabe sowohl eines „öffentlichen Image-Repositorys“ als auch eines „privaten Image-Repositorys“ (einschließlich Zugangsdaten).

Zusätzlich können Sie die von der Plattform bereitgestellten öffentlichen Image-Vorlagen verwenden, um schnell Instanzen zu erstellen.

Schritt 2: GPU-Instanz erstellen

Nachdem Sie die Seite Explore aufgerufen haben, wählen Sie eine Image-Vorlage und die gewünschten Spezifikationen aus und klicken Sie anschließend auf die Schaltfläche „Deploy“.

Sie können die Funktion „Filter“ in der unteren rechten Ecke verwenden, um die benötigten Instanzspezifikationen zu finden.

Erklärung der Konfiguration

Konfiguration	Beschreibung
CPU	Die Anzahl der vCPU-Kerne, die Sie für Ihre Instanz auswählen. Die vCPU-Anzahl wirkt sich auf die Verarbeitungsfähigkeit und Leistung der Instanz aus; mehr vCPUs sind für rechenintensive Anwendungen vorteilhaft.
Arbeitsspeicher	Die Größe des RAM in GB, die für jede Instanz angegeben wird. Arbeitsspeicher ist entscheidend für das Ausführen von Anwendungen und die allgemeine Geschwindigkeit der Instanz.
Unterstützte CUDA-Version	CUDA ist eine von NVIDIA entwickelte Plattform für paralleles Rechnen und ein API-Modell. Die Wahl der richtigen CUDA-Version ist wichtig, wenn Sie Anwendungen ausführen möchten, die für NVIDIA GPUs optimiert sind, z. B. Anwendungen für maschinelles Lernen und 3D-Rendering.
Ports	Sie können Ihre Ports entsprechend den Anforderungen Ihres Dienstes freigeben. Die Plattform stellt Port-Mapping-Dienste für Ihren Dienst bereit. Mehrere Ports können durch Kommas getrennt eingegeben werden.
Umgebungsvariablen	Werden verwendet, um Parameter für die Laufzeitumgebung des Betriebssystems anzugeben. Sie können Umgebungsvariablen hier direkt festlegen, und die Plattform initialisiert sie automatisch für Sie.
Preise für GPU-Instanzen	Weitere Details finden Sie unter Preise für GPU-Instanzen.
Basis-Image	Das von der Plattform bereitgestellte Docker-Image.
Benutzerdefiniertes Image	Der von Ihnen angegebene Docker-Image-Name, den die Plattform standardmäßig von DockerHub abruft. Stellen Sie sicher, dass der Image-Name korrekt eingegeben ist.

Nachdem die Instanz erfolgreich erstellt wurde, können Sie die Anleitung Instanzen verwalten nutzen, um auf die Instanz zuzugreifen.

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Schritt 1: Docker-Image vorbereiten

Schritt 2: GPU-Instanz erstellen

Erklärung der Konfiguration

​Schritt 1: Docker-Image vorbereiten

​Schritt 2: GPU-Instanz erstellen

​Erklärung der Konfiguration

Schritt 1: Docker-Image vorbereiten

Schritt 2: GPU-Instanz erstellen

Erklärung der Konfiguration