Überblick

Was ist Novita Agent Runtime?

Novita Agent Runtime ist ein leichtgewichtiges Framework für die Bereitstellung von AI Agents, mit dem Sie AI Agents schnell und kosteneffizient bereitstellen können. Sie müssen sich nicht um Infrastrukturkonfiguration, Container-Orchestrierung, Service-Freigabe oder andere komplexe Details kümmern – konzentrieren Sie sich einfach auf die Entwicklung der Geschäftslogik Ihres Agents.

Kernkomponenten

Novita Agent Runtime ist im Novita Sandbox SDK und in den CLI-Tools enthalten:

Komponente	Beschreibung
Novita Sandbox SDK	Stellt decorator-basierte APIs bereit, um Ihren Agent als standardmäßigen HTTP-Service verfügbar zu machen, sowie Methoden zum Aufrufen von Agents
Novita Sandbox CLI	Ein-Klick-Konfiguration und Bereitstellung von Agents im Novita Agent Sandbox-Ökosystem

Bereitstellungsablauf

Der vollständige Bereitstellungs- und Nutzungsablauf besteht aus drei Schritten:

Schritt 1: Agent entwickeln und integrieren

Integrieren Sie das SDK in Ihren Agent-Code, indem Sie Decorators hinzufügen:

from novita_sandbox.agent_runtime import AgentRuntimeApp

app = AgentRuntimeApp()

@app.entrypoint
def my_agent(request: dict):
    # Agent business logic
    return {"result": "..."}

Schritt 2: Konfigurieren und bereitstellen

Verwenden Sie das CLI-Tool, um die Konfiguration vorzunehmen und in der Cloud bereitzustellen:

# Configure Agent
novita-sandbox-cli agent configure

# Deploy to cloud
novita-sandbox-cli agent launch

Generiert die Konfigurationsdateien Dockerfile und .novita-agent.yaml
Erstellt die Sandbox-Vorlage und lädt sie hoch
Generiert die Agent-ID (Format: agent_<name>_v<version>)

Schritt 3: Agent aufrufen

Nach erfolgreicher Bereitstellung können Sie Ihren Agent über CLI oder SDK aufrufen: Option 1: Schnelltest mit CLI

novita-sandbox-cli agent invoke "Hello, Agent!"

Option 2: Aufruf über SDK in Ihrer Anwendung

import json
from novita_sandbox.agent_runtime import AgentRuntimeClient

client = AgentRuntimeClient(api_key="your-api-key")

# Prepare request data (converted to a JSON string and encoded as bytes)
payload = json.dumps({"prompt": "Hello, Agent!"}).encode()

response = await client.invoke_agent_runtime(
    agentId="agent-xxxxx",
    payload=payload
)

Ausführungsablauf des Agent-Aufrufs:

Erstellt eine isolierte Sandbox-Instanz aus der Sandbox-Vorlage
Führt den Agent in einer isolierten Umgebung aus
Gibt das verarbeitete Ergebnis zurück

Wichtigste Vorteile

SDK:

✅ Minimale Änderungen: Ändern Sie nur wenige Codezeilen mit Decorators
✅ Framework-unabhängig: Unterstützt LangChain, LangGraph, CrewAI und andere beliebte AI-Frameworks
✅ Streaming-Unterstützung: Native Streaming-Antworten für Echtzeit-LLM-Generierungsszenarien
✅ Health Checks: Integrierter Health-Check-Endpunkt mit anpassbarem Health-Status

CLI:

✅ Intelligente Erkennung: Erkennt automatisch Projektstruktur, Einstiegsdateien und Dateien für das Dependency-Management
✅ Automatischer Build: Generiert automatisch Dockerfile und Projektkonfiguration
✅ Versionsverwaltung: Unterstützt das parallele Bestehen mehrerer Versionen mit unabhängigen Bereitstellungen
✅ Schnelles Testen: Integrierter invoke-Befehl zur schnellen Überprüfung der Bereitstellung

Runtime:

✅ Umgebungsisolation: Jede Sandbox-Instanz läuft unabhängig und ohne gegenseitige Beeinflussung
✅ Sitzungspersistenz: Mehrere Aufrufe derselben Sandbox-Instanz, mit Unterstützung für interaktive Multi-Turn-Agents
✅ Sichere Sandbox: Sicher isolierte Sandbox-Umgebung mit eingeschränktem Dateisystemzugriff

Get started

Model APIs

Agent Sandbox

GPUs

Observability

Resources

Was ist Novita Agent Runtime?

Kernkomponenten

Bereitstellungsablauf

Schritt 1: Agent entwickeln und integrieren

Schritt 2: Konfigurieren und bereitstellen

Schritt 3: Agent aufrufen

Wichtigste Vorteile

​Was ist Novita Agent Runtime?

​Kernkomponenten

​Bereitstellungsablauf

​Schritt 1: Agent entwickeln und integrieren

​Schritt 2: Konfigurieren und bereitstellen

​Schritt 3: Agent aufrufen

​Wichtigste Vorteile

Was ist Novita Agent Runtime?

Kernkomponenten

Bereitstellungsablauf

Schritt 1: Agent entwickeln und integrieren

Schritt 2: Konfigurieren und bereitstellen

Schritt 3: Agent aufrufen

Wichtigste Vorteile