KI-Glossar
Ratenlimit
Ein Ratenlimit begrenzt, wie viele Anfragen oder Tokens Sie in einem Zeitraum an eine API senden dürfen; darüber werden Anfragen abgelehnt, bis das Fenster neu beginnt.
Modell-APIs begrenzen oft Anfragen und Tokens pro Minute. Ein abgelehnter Aufruf kommt meist mit Status 429 zurück, manchmal mit einem Hinweis, wann es wieder geht.
Üblich ist ein erneuter Versuch mit exponentiellem Warten und etwas Zufall, damit nicht viele Clients im selben Moment wiederholen.
Setzen Sie auch eigene Limits: Eine fehlerhafte Schleife kann das Budget eines Monats in einer Stunde verbrauchen, und ein Limit pro Person schützt alle anderen.
Praktisch lernen
Diese kostenlosen Lektionen lehren es mit Befehlen für ein Labor und geprüften Aufgaben. Ohne Konto vollständig lesbar.