Lehrplan Lektion 226 von 250 · Projekt: Production AI Gateway
Projekt: Production AI Gateway

Route zu einem Handler + Fallback

Der Klassifikator hat dir gesagt, was die Anfrage möchte. Jetzt muss das Gateway tun etwas damit: es dem richtigen Stück Code übergeben. Das ist Routing, und in der Produktion ist es nie so einfach, dass ein Intent auf eine Funktion abgebildet wird. Dienste gehen aus. Ein Wetteranbieter läuft ab. Dein Job ist es, das Gateway resilient zu machen, damit eine einzelne instabile Abhängigkeit nicht die ganze Anfrage mit sich reißt.

Das Muster ist eine fallback chain: jeder intent wird einer geordneten Liste von handlers zugewiesen, die man ausprobieren kann. Der erste ist der bevorzugte handler; wenn er fehlschlägt, rutschst du zum nächsten ab, und der letzte Link ist immer ein generischer fallback, der nicht fehlschlagen kann. Unbekannte intents springen direkt zu diesem fallback. Ein hiring manager liest das als "versteht graceful degradation," was den Großteil der Arbeit an Zuverlässigkeit tatsächlich ausmacht.

Du wirst zwei Funktionen über eine Routing-Tabelle wie diese bauen:

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> der Name des primary Handlers für einen Intent (der erste Link in seiner Kette). Ein Intent, der nicht in der Tabelle ist, leitet zu "fallback".
  • weiter.
  • handle(request, handlers) -> die Anfrage ist ein dict wie {"intent": ..., "text": ...} und handlers bildet einen Namen auf einen callable ab. Gehe die Kette des Intents in der Reihenfolge durch, try jeden handler, und gib das Ergebnis des ersten zurück, der nicht raise verursacht. Melde, welcher handler gewonnen hat, z. B. {"handler": name, "result": ...}.

Das Herzstück ist eine loop mit einer try/except damit ein crashing handler abgefangen wird und du weitermachst:

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

Weil die Kette immer in fallback endet, ist eine Anfrage nur nicht erfüllbar, wenn selbst der Fallback fehlt oder defekt ist. Drücke Run, um einige Anfragen zu routen, und beobachte dann eine mit einem absichtlich defekten primary handler, die zum nächsten Link durchfällt.

Du bist dran

Schreibe route(intent), das den Namen des primären Handlers für einen Intent zurückgibt (den ersten Eintrag seiner Fallback-Kette; ein unbekannter Intent -> "fallback"). Schreibe handle(request, handlers), wobei request {"intent", "text"} ist und handlers einen Namen auf einen Callable abbildet: gehe die Kette des Intents durch, try jeden Handler nacheinander ab und gib {"handler": name, "result": ...} für den ersten zurück, der keinen Fehler auslöst. Unbekannte Intents und fehlschlagende Primäre müssen in der Kette nach unten fallen (die immer in fallback endet). Wenn jeder Handler in der Kette einen Fehler auslöst (oder fehlt), löse keinen aus: gib {"handler": None, "result": None} zurück, damit der Aufrufer eine freundliche Fehlermeldung anzeigen kann. Zusätzliche Schlüssel wie ein trace der versuchten Handler sind erlaubt.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.