GPU-Instanz
1. Wie kann ich den Preis der GPU-Instanzen prüfen?
Sie können den Preis von GPU-Instanzen und deren Konfigurationen (Container-Datenträger, Volume-Datenträger, Netzwerk-Volume usw.) auf der Preisseite einsehen.2. Wann beginnt die Abrechnung für eine GPU-Instanz?
Die Abrechnung beginnt, wenn sich der Instanzstatus in den Status „Pulling“ ändert.3. Einführung in Container-Datenträger, Volume-Datenträger und Netzwerk-Volume.
-
Container-Datenträger
- Unterstützt keine dynamische Erweiterung; die Kapazität kann nur beim Erstellen einer Instanz festgelegt werden;
- Mount-Verzeichnis:
/(kann nicht angepasst werden); - Daten werden beim Speichern des Images gespeichert;
- Unterstützt ein kostenloses Kontingent von 60GB; für den darüber hinausgehenden Teil fallen Gebühren an. Details finden Sie unter: Abrechnungshinweise
-
Volume-Datenträger
- Unterstützt dynamische Erweiterung;
- Standardmäßiges Mount-Verzeichnis:
/workspace(anpassbar); - Daten werden beim Speichern des Images nicht gespeichert;
- Lese- und Schreibgeschwindigkeit entsprechen denen des Container-Datenträgers;
- Für die Kapazität des Volume-Datenträgers fallen zusätzliche Gebühren an. Details finden Sie unter: Abrechnungshinweise.
-
Netzwerk-Volume
- Unterstützt dynamische Erweiterung;
- Standardmäßiges Mount-Verzeichnis:
/network(anpassbar); - Das Netzwerk-Volume hat einen unabhängigen Lebenszyklus, der nicht mit der Instanz verknüpft ist. Selbst wenn die Instanz gelöscht wird, bleiben die Daten des Netzwerk-Volumes erhalten;
- Die allgemeine Lese- und Schreibgeschwindigkeit ist langsamer als beim Container-Datenträger oder Volume-Datenträger (abhängig von der konkreten Nutzung);
- Für die Kapazität des Netzwerk-Volumes fallen zusätzliche Gebühren an. Details finden Sie unter: Abrechnungshinweise
4. Warum kann die Instanz nach dem Stoppen nicht neu gestartet werden?
Dies gilt nur für Pay-as-you-go-Instanzen. Instanzen mit monatlichem Abonnement verfügen über vorab reservierte Ressourcen und sind von diesem Problem nicht betroffen.
5. Wie gehe ich mit einem abnormalen Instanzstatus um?
Versuchen Sie zunächst, das Problem über die „Systemprotokolle“ und „Instanzprotokolle“ der Instanz zu beheben. Wenn das Problem nicht gelöst werden kann, können Sie uns kontaktieren.
6. Keine Instanzspezifikationen mit einer angegebenen CUDA-Version.
CUDA-Versionen sind abwärtskompatibel. Wenn Ihr Dienst beispielsweise von CUDA-Version 12.1 abhängt, können Sie eine Instanzspezifikation mit einer CUDA-Version größer oder gleich 12.1 auswählen.7. Welche maximale CUDA-Version wird von der Plattform unterstützt?
Sie können die zulässigen CUDA-Versionen im Modul „Filter“ in der unteren rechten Ecke von Explore prüfen.
8. Wie diagnostiziere ich einen Fehler beim „Image speichern“?
Versuchen Sie zunächst, das Problem über die Protokolle der Aufgabe „Image speichern“ zu beheben. Wenn Sie das Image an eine private Repository-Adresse speichern, prüfen Sie bitte, ob Ihre Container Registry Auth Configuration korrekt ist. Wenn das Problem nicht gelöst werden kann, können Sie uns kontaktieren.
9. Kann eine dedizierte IP unterstützt werden?
Ja. Derzeit ist diese Funktion nicht öffentlich verfügbar. Wenn Sie entsprechende Anforderungen haben, kontaktieren Sie uns bitte.10. Wie prüfe ich die GPU-Auslastung der Instanz?
Aufgrund der PID-Isolation von Docker-Containern kann der Befehlnvidia-smi nicht zum Anzeigen des Prozesses verwendet werden. Sie können die Bibliothek py3nvml installieren und den Shell-Befehl verwenden, um die GPU-Auslastung zu prüfen:
11. Kann eine einzelne Instanz mehrere Netzwerk-Volumes einbinden?
Ja. Sowohl die Konsole als auch die API unterstützen das Einbinden mehrerer Netzwerk-Volumes in eine einzelne Instanz.Serverless GPUs
1. Was ist der Unterschied zwischen Serverless GPU und GPU-Instanz?
Serverless GPU ist für die Bereitstellung von Modellinferenz-Endpunkten ausgelegt, ohne dass Sie Infrastruktur verwalten müssen. Sie definieren einen Endpunkt, und die Plattform übernimmt Skalierung, Planung und Ressourcenzuweisung automatisch. GPU-Instanz bietet Ihnen eine persistente, interaktive VM-ähnliche Umgebung, in der Sie die Laufzeitumgebung direkt verwalten. Wählen Sie Serverless GPU für produktive Inferenz-Workloads; wählen Sie GPU-Instanz für Entwicklung, Training oder Workflows, die persistenten Speicher und interaktiven Zugriff erfordern.2. Wie wird Serverless GPU abgerechnet?
Serverless GPU wird auf Basis der tatsächlichen Ausführungszeit abgerechnet — Ihnen werden nur Kosten berechnet, wenn Ihr Endpunkt aktiv Anfragen verarbeitet. In Leerlaufzeiten fallen keine Gebühren an. Die Preise werden pro Sekunde verbrauchter GPU-Zeit berechnet. Detaillierte Tarife finden Sie auf der Preisseite für Serverless GPU.3. Was soll ich tun, wenn mein Serverless GPU-Endpunkt einen Timeout-Fehler zurückgibt?
Timeout-Fehler treten typischerweise auf, wenn:- Die Cold-Start-Zeit den Timeout-Schwellenwert der Anfrage überschreitet (z. B. wenn das Container-Image groß ist und Zeit zum Herunterladen benötigt).
- Die Modellinferenzzeit den konfigurierten Anfrage-Timeout überschreitet.
- Verwenden Sie die Funktion Image Prewarm, um die Cold-Start-Latenz zu reduzieren.
- Erhöhen Sie die Anfrage-Timeout-Einstellung für Ihren Endpunkt, wenn Ihr Workload längere Verarbeitungszeiten erfordert.
- Wenn das Problem weiterhin besteht, kontaktieren Sie uns mit Ihrer Endpunkt-ID und den Fehlerdetails.
Zahlungen
1. Wie kann ich Fehler beim Aufladen vermeiden?
Fehler beim Aufladen werden im Allgemeinen durch zwei Hauptgründe verursacht:-
Ablehnung durch den Kartenaussteller. Dies kann aus den folgenden Gründen auftreten. Bitte prüfen Sie die Details oder wenden Sie sich an Ihren Kartenaussteller:
- Der entsprechende Zahlungskanal ist nicht aktiviert.
- Die Kreditkarte ist abgelaufen oder wurde gesperrt.
- Das Kreditkartenguthaben ist unzureichend.
- Die Kartennummer ist falsch.
- Der Sicherheitscode ist falsch.
-
Risikokontrollmaßnahmen des Zahlungskanals. Bitte prüfen Sie dies und nehmen Sie gegebenenfalls erforderliche Anpassungen vor:
- Die Geräte-ID ist mit einer hohen Anzahl von Karten verknüpft.
- Die Anzahl der mit dieser E-Mail-Adresse abgelehnten Karten ist sehr hoch.
- Die Zeit, seit diese Karte mit dieser Geräte-ID erstmals im Stripe-Netzwerk gesehen wurde, ist sehr kurz.
- Die mit dieser E-Mail-Adresse verknüpfte Autorisierungsrate ist sehr niedrig.
- Der Name in der E-Mail-Adresse stimmt nicht mit dem Namen auf der Karte überein.