Zum Hauptinhalt springen
DokumentationDevelopers

Ratenlimits und Nebenläufigkeit

Die Grenzen für Anfragen pro Minute, gleichzeitige Anfragen und Tokens pro Minute, die jeder Plan pro API-Key im Gateway durchsetzt.

Menü der Dokumentation

Jeder Plan enthält Durchsatzgrenzen, die das Gateway pro API-Key durchsetzt: eine Anfragerate, eine Nebenläufigkeitsgrenze und ein Token-Budget pro Minute, getrennt für Ein- und Ausgabe gezählt. Sie begrenzen die Last in einem Moment; die monatlichen Kontingente deines Plans gelten weiterhin für die Gesamtnutzung.

Grenzen pro Plan

PlanAnfragen pro MinuteGleichzeitige AnfragenInput-Tokens pro MinuteOutput-Tokens pro Minute
Starter10052.000.0002.000.000
Business100152.000.0002.000.000
Advanced300456.000.0006.000.000

Enterprise-Verträge legen eigene Grenzen als Teil des Vertrags fest.

Wenn eine Grenze erreicht wird

Eine gedrosselte Anfrage wird sofort mit 429 abgelehnt — rate-limit-exceeded oder, bei erreichter Nebenläufigkeitsgrenze, *-concurrency-exceeded. Das Gateway stellt überlimitierte Anfragen nicht an; pausiere kurz mit Jitter und versuche es erneut, wie in Fehler und Wiederholungen beschrieben.

Plattform entdecken

Deinen ersten API-Key holen

Die Registrierung ist offen. Vier Schritte bis zum ersten Aufruf: Konto erstellen, Organisation anlegen, API-Key erzeugen, loslegen.

  1. 01Konto erstellen
  2. 02Organisation anlegen
  3. 03API-Key erzeugen
  4. 04Loslegen