Skip to main content
Mit Langfuse kann Ihr Team gemeinsam LLM-Anwendungen debuggen, analysieren und iterieren, die mit Novita AI erstellt wurden. Die vollständig integrierten Funktionen optimieren den Entwicklungsworkflow, steigern die Effizienz und beschleunigen den Fortschritt. Diese Anleitung zeigt Ihnen, wie Sie Novita AI mit Langfuse integrieren. Die API-Endpunkte von Novita AI für Chat, Sprache und Code sind vollständig mit der API von OpenAI kompatibel. Dadurch können wir das Langfuse OpenAI-Drop-in-Replacement verwenden, um alle Teile Ihrer Anwendung zu tracen.

Voraussetzungen

Bevor Sie beginnen, stellen Sie sicher, dass Sie Folgendes haben:
  • Novita AI LLM API Key:
    • Besuchen Sie die Website von Novita AI, um ein Konto zu erstellen.
    • Melden Sie sich an und gehen Sie zur Seite Key Management, um Ihren API Key zu generieren, der für die Integration der Modelle von Novita AI mit Langfuse erforderlich ist.
  • Langfuse-Konto:
    • Registrieren Sie sich auf der offiziellen Langfuse-Website für ein Langfuse-Konto, um mit der Entwicklung leistungsstarker KI-Anwendungen zu beginnen.

Integrationsschritte

Schritt 1: Abhängigkeiten installieren

Stellen Sie sicher, dass Sie alle erforderlichen Python-Pakete installiert haben:

Schritt 2: Umgebungsvariablen einrichten

Schritt 3: Langfuse OpenAI-Drop-in-Replacement

In diesem Schritt verwenden wir das native OpenAI-Drop-in-Replacement, indem wir from langfuse.openai import openai importieren. Um Novita AI mit den Client-Bibliotheken von OpenAI zu verwenden, übergeben Sie Ihren Novita AI API Key an die Option api_key und ändern Sie base_url in https://api.novita.ai/openai:
Hinweis: Das OpenAI-Drop-in-Replacement ist vollständig kompatibel mit dem Langfuse Python SDK und der @observe() instrumentation, um alle Teile Ihrer Anwendung zu tracen.

Schritt 4: Ein Beispiel ausführen

Die folgende Codezelle zeigt, wie Sie den getracten OpenAI-Client verwenden, um das Chat-Modell von Novita AI aufzurufen. Alle API-Aufrufe werden nahtlos von Langfuse getract.

Schritt 5: Traces in Langfuse ansehen

Nachdem Sie den Beispiel-Modellaufruf ausgeführt haben, können Sie die Traces in Langfuse ansehen. Diese Traces liefern detaillierte Informationen zu Ihren Novita AI API-Aufrufen, darunter:
  • Anfrageparameter (model, messages, temperature usw.)
  • Antwortinhalt
  • Token-Nutzungsstatistiken
  • Latenzmetriken
Öffentlicher Beispiel-Trace-Link in Langfuse.
Zuletzt geändert am 15. Mai 2026