API-Fehler behandeln
Echte Netzwerkaufrufe schlagen fehl, und ein Produktions-LLM-Client lebt oder stirbt danach, wie er reagiert. Der nützlichste Instinkt ist, Fehler in zwei Kategorien zu unterteilen: solche, die es wert sind, retrying (ein vorübergehender Fehler, der wahrscheinlich verschwindet) und solche, die du fix in the request (ein Bug in deinem Aufruf, bei dem kein Retrying hilft) musst. Der HTTP-Statuscode sagt dir, in welcher Kategorie du bist.
In echtem Code fängst du die typisierten Exceptions des SDKs ab, die jeweils eine .status_code (nur illustrativ -> wir rufen das Netzwerk nicht auf):
import anthropic
try:
resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
messages=history)
except anthropic.RateLimitError: # HTTP 429 -> back off and retry
...
except anthropic.APIStatusError as e: # any other 4xx/5xx, has e.status_code
if should_retry(e.status_code):
... # retry with backoff
else:
raise # 400/401/403/404 -> a bug in YOUR request, surface itDie Buckets, nach Statuscode:
- Retry ->
408(request timeout),409(conflict),429(rate limited) und jeder Serverfehler von500bis599, wie502,503(unavailable) oder529(overloaded). Diese sind vorübergehend: warte, dann versuche es erneut. Wenn die Antwort einenretry-afterheader enthält, warte mindestens so lange. - Fixe die Anfrage ->
400(bad request),401(bad API key),403(forbidden),404(wrong model or path). Ein fehlerhafter Aufruf zu wiederholen verbraucht nur das Budget. - Unknown -> alles andere (einschließlich eines Erfolgs wie
200): gehe nicht davon aus, dass es sicher ist, es zu wiederholen.
Du baust zwei kleine Funktionen. classify_error(status) gibt den Namen des Buckets zurück: "retry", "fix-request" oder "unknown". should_retry(status) gibt den Boolean zurück -> True genau dann, wenn der Status im Retry-Set ist, sonst False.
Diese Lektion entscheidet ob man es erneut versucht; die Wartezeit zwischen den Versuchen ist eine eigene Fähigkeit. Das production-patterns Modul deckt exponential backoff ab (verdopple die Verzögerung bei jedem Versuch: 1s, 2s, 4s ...), und obenauf fügst du jitter hinzu -> eine kleine zufällige Menge an zusätzlicher Wartezeit -> damit eine Flotte von Clients, die im selben Moment zurückgewiesen wurden, nicht alle im selben Takt erneut versuchen und den Server wieder überlasten (der "thundering herd"). Baue es so, dass die Status-Tabelle mehrere verschiedene Antworten liefert (429 -> retry, 400 -> fix-request, 200 -> unknown), was bedeutet, dass keine einzelne Konstante durchgehen kann.
Schreibe classify_error(status), das "retry" zurückgibt für 408 (request timeout), 409 (conflict), 429 (rate limited) und jeden Serverfehler von 500 bis 599 (529 bedeutet überlastet), "fix-request" für {400, 401, 403, 404} und "unknown" für alles andere. Schreibe should_retry(status), das den booleschen Wert True genau dann zurückgibt, wenn classify_error(status) gleich "retry" ist, sonst False. (Dies ist dieselbe Regel, die das offizielle Anthropic SDK verwendet: es wiederholt diese Status und Verbindungsfehler standardmäßig zweimal und wartet so lange, wie ein retry-after Header verlangt. In echtem Code konfigurierst du meistens max_retries anstatt dies selbst zu schreiben; es einmal zu schreiben zeigt dir, was es tut.)
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.