Stellen Sie Modelle auf dedizierten GPUs bereit. Sekundengenaue Abrechnung nur für laufende Replikate, erschwingliche GPU-Optionen ab $0.61/hr, und bei Inferenzproblemen kümmern wir uns darum.
Sekundengenaue Abrechnung aktiver Replikate. Auf null skalieren, null zahlen. Keine Gebühren für inaktive Endpoints, keine Mindestverpflichtungen.
Abrechnungsvorschau
3 Replikate 4090 × 2h 15m 42s laufend
= 3 × 8,142s × $0.000608/s
= $14.85
Nicht jede Workload benötigt einen H200. Wählen Sie aus RTX 4090, RTX 5090, H100 — passen Sie die GPU an Ihre Modellgröße und Ihr Budget an.
RTX 4090
24 GB
ab$0.61/hr
H100
80 GB
ab$1.99/hr
H200
141 GB
ab$2.99/hr
OOM, CUDA-Fehler, Fehler beim Laden von Modellen — unser Team diagnostiziert und behebt sie. Sie erhalten eine klare Erklärung, keinen kryptischen Stacktrace.
Report via console or email
Our team investigates root cause
You get diagnosis + resolution
Bereitstellungsoptionen
Wählen Sie das richtige Bereitstellungsmodell für Ihre Workload
Pay per token600+ models availableZero infrastructure managementAuto-scaling includedBest for variable workloads
Isolated GPU resourcesGuaranteed latency SLACustom models & LoRA adaptersScale-to-zero supportBest for predictable, high-throughput workloadsPlattform
Alles, was Sie benötigen, um AI-Inferenz in der Produktion bereitzustellen, zu skalieren und zu verwalten.
Unterstützt durch optimierte Serving-Engines auf NVIDIA H200, H100 und RTX 4090 GPUs. Latenz unter einer Sekunde für Echtzeitanwendungen.
Automatisch von 0 auf N Replikate basierend auf dem Traffic skalieren. Legen Sie minimale/maximale Replikate und eine Verzögerung beim Herunterskalieren passend zu Ihren Traffic-Mustern fest.
LoRA-Adapter auf laufenden Endpoints per Hot-Swap austauschen, ohne Neustarts. Stellen Sie mehrere feinabgestimmte Varianten auf einem einzigen Basismodell bereit.
Wählen Sie zwischen NVIDIA H200, H100 und RTX 4090. Wählen Sie Tensor-Parallelismus und GPU-Anzahl passend zu den Anforderungen Ihres Modells.
Abrechnung nach GPU-Stunde mit sekundengenauer Granularität. Bei Inaktivität auf null skalieren — keine Mindestverpflichtung, keine Kosten für ungenutzte GPU.
Dedizierter technischer Support, individuelle SLAs und priorisierter Zugriff auf neue GPU-Typen. Mengenrabatte für große Deployments.
Katalog
Stellen Sie die beliebtesten LLMs mit einem Klick bereit oder bringen Sie Ihr eigenes Hugging Face-Modell mit.
Workflow
Alles, was du brauchst, um AI-Inferenz in der Produktion bereitzustellen, zu skalieren und zu verwalten.
001
Wähle dein Modell
Durchsuche 50.000+ Modelle von Hugging Face oder füge deine private Repo-URL ein.
002
Wähle deine GPU
Sieh dir die empfohlene GPU für dein Modell an. Wähle die GPU, die zu deinem Budget passt.
003
Bereitstellen
Dein Endpunkt ist in wenigen Minuten live. OpenAI-kompatible URL einsatzbereit.
POST
api.example.com/v1/chat/completions
Preise
| GPU | VRAM | Preis / GPU-Stunde |
|---|---|---|
NVIDIA H200 SXMBeliebt | 141 GB | $2.99 |
NVIDIA H100 SXM | 80 GB | $1.99 |
NVIDIA RTX 4090 | 24 GB | $0.61 |
Benötigen Sie reservierte Kapazität oder individuelle Preise?
Sprechen Sie mit unserem TeamFAQ
Per-second on running replicas only. When your endpoint is scaled to zero or stopped, you pay nothing. No minimum commitments, no idle charges.
Haben Sie noch Fragen? Support kontaktieren
Über 200 Modelle, GPUs auf Abruf und sichere Agent-Runtimes — vereint unter einer API. Kostenlos zum Einstieg, skaliert mit Ihrem Wachstum.
