Programme Leçon 121 sur 250 · Appeler un vrai LLM
Appeler un vrai LLM

Gérer les erreurs d'API

Les vrais appels réseau échouent, et un client LLM en production vit ou meurt selon sa façon de réagir. Le réflexe le plus utile est de ranger les échecs dans deux catégories : ceux qui valent la peine d'être réessayés (un raté passager qui va probablement se dissiper) et ceux que tu dois corriger dans la requête (un bug dans ton appel qu'aucun nombre de nouvelles tentatives ne réglera). Le code de statut HTTP te dit dans quelle catégorie tu es.

Dans le code réel, tu captures les exceptions typées du SDK, dont chacune porte une .status_code (illustratif seulement -> nous n'appelons pas le réseau) :

import anthropic
try:
    resp = client.messages.create(model="claude-opus-5-5", max_tokens=1024,
                                  messages=history)
except anthropic.RateLimitError:          # HTTP 429 -> back off and retry
    ...
except anthropic.APIStatusError as e:     # any other 4xx/5xx, has e.status_code
    if should_retry(e.status_code):
        ...   # retry with backoff
    else:
        raise # 400/401/403/404 -> a bug in YOUR request, surface it

Les compartiments, par code de statut :

  • Réessayer -> 408 (délai de la requête dépassé), 409 (conflit), 429 (limite de débit atteinte), et toute erreur serveur de 500 à 599, comme 502, 503 (indisponible) ou 529 (surchargé). Elles sont passagères : attends, puis réessaie. Quand la réponse porte un en-tête retry-after, attends au moins ce temps-là.
  • Corriger la requête -> 400 (requête invalide), 401 (mauvaise clé d'API), 403 (accès interdit), 404 (mauvais modèle ou mauvais chemin). Réessayer un appel mal formé ne fait que brûler du quota.
  • Inconnu -> tout le reste (y compris un succès comme 200) : ne suppose pas qu'on peut réessayer sans risque.

Tu construis deux petites fonctions. classify_error(status) renvoie le nom de la catégorie : "retry", "fix-request" ou "unknown". should_retry(status) renvoie le booléen -> True exactement quand le statut fait partie de l'ensemble à réessayer, sinon False.

Cette leçon décide si de réessayer ; le attente entre les tentatives est une compétence en soi. Le module production-patterns couvre le backoff exponentiel (doubler le délai à chaque tentative : 1s, 2s, 4s ...), et par-dessus cela tu AJOUTES jitter -> une petite quantité aléatoire d'attente supplémentaire -> pour que une flotte de clients rejetés au même instant ne réessayent pas tous au même rythme et ne submergent pas le serveur à nouveau (le "thundering herd"). Construis-le pour que la table de statut donne plusieurs réponses différentes (429 -> retry, 400 -> fix-request, 200 -> unknown), ce qui signifie qu'aucune constante unique ne peut passer.

À ton tour

Écris classify_error(status) retournant "retry" pour 408 (request timeout), 409 (conflict), 429 (rate limited) et chaque erreur serveur de 500 à 599 (529 signifie overloaded), "fix-request" pour {400, 401, 403, 404}, et "unknown" pour tout le reste. Écris should_retry(status) retournant le booléen True exactement quand classify_error(status) est "retry", sinon False. (C'est la même règle que l'SDK officiel d'Anthropic utilise : il réessaie ces statuts, et les erreurs de connexion, deux fois par défaut, et attend aussi longtemps qu'un header retry-after le demande. En code réel, tu configures surtout max_retries plutôt que d'écrire cela toi-même ; l'écrire une fois te montre ce que ça fait.)

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.