Conteúdo do curso Lição 226 de 250 · Projeto: Production AI Gateway
Projeto: Production AI Gateway

Rota para um Handler + Fallback

O classificador te disse o que a requisição quer. Agora o gateway tem que fazer algo com ela: entregar para a peça de código certa. Isso é roteamento, e em produção nunca é tão simples quanto uma intenção mapeia para uma função. Serviços caem. Um provedor de clima expira. Seu trabalho é tornar o gateway resiliente, para que uma única dependência instável não leve toda a requisição com ela.

O padrão é uma fallback chain: cada intenção mapeia para uma lista ordenada de handlers para tentar. O primeiro é o handler preferido; se ele falhar, você desce para o próximo, e o último link é sempre um fallback genérico que não pode falhar. Intenções desconhecidas pulam direto para aquele fallback. Um gerente de contratação lê isso como "entende degradação graciosa", que é a maior parte do que o trabalho de confiabilidade realmente é.

Você vai construir duas funções sobre uma tabela de roteamento como esta:

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> o nome do primary handler para uma intenção (o primeiro link em sua cadeia). Uma intenção que não está na tabela roteia para "fallback".
  • handle(request, handlers) -> a requisição é um dicionário como {"intent": ..., "text": ...} e handlers mapeia um nome para um callable. Percorra a cadeia da intenção em ordem, try cada handler, e retorne o resultado do primeiro que não gerar. Relate qual handler venceu, por exemplo {"handler": name, "result": ...}.

O coração disso é um loop com um try/except para que um handler de erro seja capturado e você continue:

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

Porque a chain sempre termina em fallback, um request só não pode ser atendido se até o fallback estiver faltando ou quebrado. Pressione Run para rotear alguns requests, depois observe um com um primary handler deliberadamente quebrado caindo para o próximo link.

Sua vez

Escreva route(intent) retornando o nome do handler primário para uma intenção (a primeira entrada de sua fallback chain; uma intenção desconhecida -> "fallback"). Escreva handle(request, handlers) onde request é {"intent", "text"} e handlers mapeia um nome para um callable: percorra a chain da intenção, try cada handler em ordem, e retorne {"handler": name, "result": ...} para o primeiro que não gerar erro. Intenções desconhecidas e primários que falham devem cair para baixo na chain (que sempre termina em fallback). Se cada handler na chain gerar erro (ou estiver faltando), não gere erro: retorne {"handler": None, "result": None}, para que o chamador possa mostrar um erro amigável. Chaves extras como um trace de handlers tentados são permitidas.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.