Silabus Pelajaran 226 dari 250 · Proyek: Production AI Gateway
Proyek: Production AI Gateway

Rute ke Handler + Fallback

Klasifikator memberi tahu kamu apa yang diinginkan permintaan tersebut. Sekarang gateway harus melakukan sesuatu dengannya: menyerahkannya ke bagian kode yang tepat. Itu adalah routing, dan dalam produksi itu tidak pernah sesederhana satu niat ke satu fungsi. Layanan bisa mati. Penyedia cuaca bisa timeout. Tugasmu adalah membuat gateway tangguh, jadi satu dependensi yang tidak stabil tidak akan merusak seluruh permintaan.

Polanya adalah fallback chain: setiap intent dipetakan ke daftar handler berurutan untuk dicoba. Yang pertama adalah handler pilihan; jika gagal, kamu geser ke yang berikutnya, dan tautan terakhir selalu fallback yang tidak bisa gagal. Intent yang tidak dikenal langsung melompat ke fallback itu. Manajer perekrutan membaca ini sebagai "memahami graceful degradation," yang merupakan sebagian besar dari pekerjaan reliabilitas sebenarnya.

Kamu akan membangun dua fungsi di atas tabel routing seperti ini:

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> nama primary handler untuk sebuah intent (tautan pertama dalam rantainya). Intent yang tidak ada di tabel akan diarahkan ke "fallback".
  • handle(request, handlers) -> request adalah dict seperti {"intent": ..., "text": ...} dan handlers memetakan nama ke callable. Telusuri chain intent secara berurutan, try setiap handler, dan kembalikan hasil dari yang pertama yang tidak raise. Laporkan handler mana yang menang, contohnya {"handler": name, "result": ...}.

Intinya adalah loop dengan try/except supaya handler saat crash tertangkap dan kamu bisa lanjut terus:

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

Karena chain selalu berakhir di fallback, sebuah request hanya tidak bisa dilayani jika fallback pun hilang atau rusak. Tekan Run untuk mengarahkan beberapa request, lalu lihat satu dengan primary handler yang sengaja dirusak jatuh ke link berikutnya.

Giliranku

Tulis route(intent) untuk mengembalikan nama handler utama untuk sebuah intent (entri pertama dari fallback chain-nya; intent tidak dikenal -> "fallback"). Tulis handle(request, handlers) di mana request adalah {"intent", "text"} dan handlers memetakan nama ke callable: telusuri chain intent, try setiap handler secara berurutan, dan kembalikan {"handler": name, "result": ...} untuk yang pertama yang tidak raise. Intent tidak dikenal dan primary yang gagal harus jatuh ke bawah chain (yang selalu berakhir di fallback). Jika setiap handler di dalam chain raise (atau hilang), jangan raise: kembalikan {"handler": None, "result": None}, agar pemanggil bisa menampilkan error yang ramah. Key tambahan seperti trace dari handler yang dicoba diperbolehkan.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.