Hanseer API-foute
Reg netwerkvoorstellings faal, en 'n produksie LLM-kliënt leef of ster volgens hoe dit reageer. Die een mees nuttige instink is om foute in twee groepe te verdeel: diegene wat dit werd om retrying ('n tydelike struikelblok wat waarskynlik sal verdwyn) en diegene wat jy moet fix in the request ('n fout in jou call wat geen hoeveelheid retrying sal help nie). Die HTTP statuskode vertel jou in watter groep jy is.
In regte kode vang jy die SDK se getipeerde exceptions, wat elk 'n .status_code (illustratief slegs -> ons roep nie die netwerk nie):
import anthropic
try:
resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
messages=history)
except anthropic.RateLimitError: # HTTP 429 -> back off and retry
...
except anthropic.APIStatusError as e: # any other 4xx/5xx, has e.status_code
if should_retry(e.status_code):
... # retry with backoff
else:
raise # 400/401/403/404 -> a bug in YOUR request, surface itDie emmers, volgens statuskode:
- Retry ->
408(aanvraag tydsberekening versteek),409(konflik),429(tempo beperk), en enige beduifout vanaf500tot599, soos502,503(nie beskikbaar nie) of529(oorbelas). Hierdie is tydelik: wag, en probeer dan weer. Wanneer die repons 'nretry-afterheader bevat, wag ten minste so lank. - Vervang die versoek ->
400(bad request),401(bad API key),403(forbidden),404(wrong model or path). Om 'n foutiewe call te herprobeer verbrand net kwota. - Onbekend -> enigiets anders (insluitend 'n sukses soos
200): moenie aanvaar dat dit veilig is om te herprobeer nie.
Jy bou twee klein funksies. classify_error(status) gee die bucket-naam terug: "retry", "fix-request", of "unknown". should_retry(status) gee die boolean -> True terug presies wanneer die status in die retry-stel is, anders False.
Hierdie les besluit of nie om te herprobeer; die wagtyd tussen pogings is sy eie vaardigheid. Die production-patterns module dek eksponensiële terugtrek (verdubbel die vertraging by elke poging: 1s, 2s, 4s ...), en bo daarop voeg jy ADD jitter -> 'n klein willeke hoeveelheid ekstra wagtyd -> sodat 'n vloot kliënte wat gelyktydig teruggestoot word, nie almal op dieselfde slag herprobeer en die bediener weer oorlaai nie (die "thundering herd"). Bou dit sodat die status-tabel verskeie verskillende antwoorde lewer (429 -> retry, 400 -> fix-request, 200 -> unknown), wat beteken geen enkele konstante kan slaag nie.
Skryf classify_error(status) wat "retry" teruggee vir 408 (request timeout), 409 (conflict), 429 (rate limited) en elke serverfout van 500 tot 599 (529 beteken oorbel), "fix-request" vir {400, 401, 403, 404}, en "unknown" vir enigiets anders. Skryf should_retry(status) wat die booliese True teruggee presies wanneer classify_error(status) is "retry", anders False. (Dit is dieselfde reël wat die amptelike Anthropic SDK gebruik: dit probeer hierdie statusse, en konneksiefoute, twee keer by verstek, en wag so lank as wat 'n retry-after header vra. In regte kode konfigureer jy meestal max_retries eerder as om dit self te skryf; om dit een keer te skryf wys jou wat dit doen.)
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.