Skip to main content
Ratenlimits steuern, wie häufig Benutzer innerhalb bestimmter Zeiträume Anfragen an unsere LLM-API stellen können. Das Verständnis und die Einhaltung dieser Limits sind für eine optimale API-Nutzung unerlässlich.
Neu bei der API? Unter API-Schlüssel erfahren Sie, wie Sie zunächst einen Schlüssel erstellen und sich damit authentifizieren.

1. Ratenlimits verstehen

Was sind Ratenlimits?

Ratenlimits beschränken die Anzahl der API-Anfragen, die innerhalb definierter Zeiträume gestellt werden können. Sie helfen dabei:
  • Missbrauch und Fehlverwendung der API zu verhindern;
  • Eine faire Verteilung der Ressourcen unter den Benutzern sicherzustellen;
  • Eine konsistente API-Leistung und Zuverlässigkeit aufrechtzuerhalten;
  • Die Stabilität unserer Dienste zu schützen.

Standard-Ratenlimits

Jedes Konto hat ein Standard-Ratenlimit für Modellaufrufe, gemessen in RPM (Anfragen pro Modell pro Minute) und TPM (Tokens pro Modell pro Minute). Ratenlimits variieren je nach Kontostufe, wie in den folgenden Tabellen dargestellt.
StufeWie erreichen
T1Monatliche Aufladungen haben in keinem der letzten 3 Kalendermonate $50 überschritten.
T2Monatliche Aufladungen lagen bei mindestens $50, haben jedoch in keinem der letzten 3 Kalendermonate $500 überschritten.
T3Monatliche Aufladungen lagen bei mindestens $500, haben jedoch in keinem der letzten 3 Kalendermonate $3,000 überschritten.
T4Monatliche Aufladungen lagen bei mindestens $3,000, haben jedoch in keinem der letzten 3 Kalendermonate $10,000 überschritten.
T5Monatliche Aufladungen lagen in mindestens einem der letzten 3 Kalendermonate bei mindestens $10,000.
Die letzten 3 Kalendermonate beziehen sich auf den aktuellen Monat und die zwei Monate davor.
Standard-Ratenlimit nach Stufe (RPM / TPM):

2. Umgang mit Ratenlimits

Wie überwacht man Ratenlimits?

Wenn Sie das Ratenlimit überschreiten, gibt die API Folgendes zurück:
  • HTTP-Statuscode: 429 (Too Many Requests);
  • Eine Meldung über das Überschreiten des Ratenlimits im Antworttext.

Bewährte Vorgehensweisen

Um zu vermeiden, dass Sie Ratenlimits erreichen:
  1. Implementieren Sie Anfragedrosselung in Ihrer Anwendung;
  2. Fügen Sie exponentielles Backoff für Wiederholungsversuche hinzu;
  3. Überwachen Sie Ihre API-Nutzungsmuster.

Wenn Sie Ratenlimits erreichen

Wenn Sie einen 429-Fehler erhalten, können Sie:
  1. Später erneut versuchen: Warten Sie einen kurzen Zeitraum, bevor Sie Ihre Anfrage erneut versuchen;
  2. Anfragen optimieren: Reduzieren Sie die Anfragehäufigkeit;
  3. Ratenlimits erhöhen: Für höhere Ratenlimits können Sie:

Wenn Sie Fragen haben, kontaktieren Sie uns bitte auf Discord.
Zuletzt geändert am 10. August 2026