Programme Leçon 226 sur 250 · Projet : Production AI Gateway
Projet : Production AI Gateway

Route vers un Handler + Fallback

Le classificateur t'a dit ce que la requête veut. Maintenant la passerelle doit faire quelque chose avec : la donner au bon morceau de code. C'est le routage, et en production ce n'est jamais aussi simple qu'une intention correspond à une fonction. Les services tombent. Un fournisseur météo dépasse le délai. Ton travail est de rendre la passerelle résiliente, pour qu'une seule dépendance instable n'emporte pas toute la requête avec elle.

Le modèle est une chaîne de repli: chaque intention correspond à une liste ordonnée de handlers à essayer. Le premier est le handler préféré; s'il échoue, tu passes au suivant, et le dernier lien est toujours un fallback générique qui ne peut pas échouer. Les intentions inconnues sautent directement à ce repli. Un responsable du recrutement lit cela comme "comprend la dégradation élégante," ce qui est la majeure partie du travail de fiabilité en réalité.

Tu vas construire deux fonctions sur une table de routage comme ceci :

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> le nom du primary handler pour une intention (le premier lien dans sa chaîne). Une intention qui n'est pas dans la table est acheminée vers "fallback".
  • handle(request, handlers) -> la requête est un dictionnaire comme {"intent": ..., "text": ...} et handlers mappe un nom à un callable. Parcours la chaîne de l'intention dans l'ordre, try chaque handler, et retourne le résultat du premier qui ne soulève pas. Signale quel handler a gagné, par exemple {"handler": name, "result": ...}.

Le cœur du sujet est une boucle avec un try/except pour qu'un gestionnaire de crash soit capturé et que tu continues :

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

Parce que la chaîne se termine toujours par fallback, une requête n'est pas traitable que si même la solution de secours est manquante ou cassée. Appuie sur Run pour acheminer quelques requêtes, puis regarde une requête avec un handler primaire délibérément cassé passer au lien suivant.

À ton tour

Écris route(intent) retournant le nom du gestionnaire principal pour une intention (la première entrée de sa chaîne de repli ; une intention inconnue -> "fallback"). Écris handle(request, handlers) où request est {"intent", "text"} et handlers mappe un nom à un appelable : parcours la chaîne de l'intention, try chaque gestionnaire dans l'ordre, et retourne {"handler": name, "result": ...} pour le premier qui ne lève pas d'erreur. Les intentions inconnues et les gestionnaires principaux qui échouent doivent se replier vers le bas de la chaîne (qui finit toujours par fallback). Si chaque gestionnaire dans la chaîne lève une erreur (ou est manquant), ne lève pas : retourne {"handler": None, "result": None}, pour que l'appelant puisse afficher une erreur conviviale. Des clés supplémentaires comme un trace des gestionnaires tentés sont autorisées.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.