Программа курса Урок 226 из 250 · Проект: Production AI Gateway
Проект: Production AI Gateway

Маршрут к Handler + Fallback

Классификатор сказал вам что хочет запрос. Теперь шлюз должен сделать что-то с ним: передать его правильному куску кода. Это маршрутизация, и в продакшене это никогда не так просто, как один интент соответствует одной функции. Сервисы падают. Провайдер погоды выдает таймаут. Ваша задача сделать шлюз отказоустойчивым, чтобы одна нестабильная зависимость не тянула за собой весь запрос.

Паттерн представляет собой fallback chain: каждое намерение сопоставляется с упорядоченным списком обработчиков для попытки. Первый из них является предпочтительным обработчиком; если он дает сбой, вы переходите к следующему, и последняя ссылка всегда является общим fallback, который не может дать сбой. Неизвестные намерения сразу переходят к этому fallback. Менеджер по найму прочитает это как «понимает плавную деградацию», что составляет большую часть работы по надежности.

Вы построите две функции над таблицей маршрутизации вот такой:

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> имя primary обработчика для интента (первая ссылка в его цепочке). Интент, которого нет в таблице, направляется в "fallback".
  • handle(request, handlers) -> запрос это dict как {"intent": ..., "text": ...} и handlers сопоставляет имя с callable. Пройдите по цепочке intent по порядку, try каждый handler, и верните результат первого который не вызывает. Сообщите какой handler победил, например {"handler": name, "result": ...}.

Суть в том, что это loop с try/except так что crashing handler перехватывается и вы продолжаете:

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

Так как цепочка всегда заканчивается на fallback, запрос невозможно выполнить только если отсутствует или сломана даже запасная опция. Нажмите Run чтобы отправить несколько запросов, затем посмотрите как запрос с намеренно сломанным основным обработчиком переходит к следующему звену.

Твоя очередь

Напишите route(intent), возвращающий имя основного обработчика для намерения (первую запись в его fallback chain; неизвестное намерение -> "fallback"). Напишите handle(request, handlers), где request это {"intent", "text"} и handlers сопоставляет имя с вызываемым объектом: пройдите по цепочке намерения, выполните try каждый обработчик по порядку и верните {"handler": name, "result": ...} для первого, который не вызывает ошибку. Неизвестные намерения и сбои основных обработчиков должны откатываться вниз по цепочке (которая всегда заканчивается fallback). Если каждый обработчик в цепочке вызывает ошибку (или отсутствует), не вызывайте ошибку: верните {"handler": None, "result": None}, чтобы вызывающий код мог показать дружелюбную ошибку. Дополнительные ключи, такие как trace попытанных обработчиков, разрешены.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.