पाठ्यक्रम 250 में से पाठ 226 · प्रोजेक्ट: production AI gateway
प्रोजेक्ट: production AI gateway

एक handler तक route + fallback

classifier ने आपको बताया कि अनुरोध क्या चाहता है। अब gateway को उसके साथ कुछ करना है: उसे कोड के सही हिस्से को सौंपना। यह routing है, और production में यह कभी इतना सादा नहीं होता कि एक intent एक फ़ंक्शन से जुड़ा हो। सेवाएँ बंद होती हैं। एक weather प्रदाता time out होता है। आपका काम gateway को मज़बूत बनाना है, ताकि एक अकेली अस्थिर निर्भरता पूरे अनुरोध को साथ न ले डूबे।

पैटर्न एक fallback श्रृंखला है: हर intent आज़माने वाले handlers की एक क्रमबद्ध सूची से जुड़ता है। पहला पसंदीदा handler है; अगर वह विफल हो, तो आप अगले पर खिसकते हैं, और आख़िरी कड़ी हमेशा एक सामान्य fallback है जो विफल नहीं हो सकता। अनजान intents सीधे उस fallback पर जाते हैं। एक hiring manager इसे "शालीन गिरावट समझता है" के रूप में पढ़ता है, जो भरोसेमंदी का ज़्यादातर काम असल में है।

आप इस तरह की routing तालिका पर दो फ़ंक्शन बनाएँगे:

ROUTES = {
    "weather": ["weather_api", "weather_cache", "fallback"],
    "account": ["account_service", "fallback"],
    "billing": ["billing_service", "fallback"],
}
  • route(intent) -> किसी intent के मुख्य handler का नाम (उसकी श्रृंखला की पहली कड़ी)। तालिका में न होने वाला intent "fallback" तक जाता है।
  • handle(request, handlers) -> request {"intent": ..., "text": ...} जैसी dict है और handlers एक नाम को एक callable से जोड़ता है। intent की श्रृंखला पर क्रम से चलें, हर handler को try करें, और पहले error न उठाने वाले का नतीजा लौटाएँ। बताएँ कि कौन-सा handler जीता, जैसे {"handler": name, "result": ...}।

इसका दिल try/except वाला एक loop है ताकि क्रैश होने वाला handler पकड़ा जाए और आप आगे बढ़ते रहें:

for name in chain_for(intent):
    fn = handlers.get(name)
    if fn is None:
        continue
    try:
        result = fn(request)
        return {"handler": name, "result": result}
    except Exception:
        continue   # this handler is down, slide to the next link

क्योंकि श्रृंखला हमेशा fallback पर ख़त्म होती है, अनुरोध तभी सेवा न होने लायक है जब fallback भी ग़ायब या टूटा हो। कुछ अनुरोध route करने के लिए Run दबाएँ, फिर जानबूझकर टूटे मुख्य handler वाले एक को अगली कड़ी पर गिरते देखें।

आपकी बारी

route(intent) लिखें जो किसी intent का मुख्य handler नाम लौटाए (उसकी fallback श्रृंखला की पहली प्रविष्टि; एक अनजान intent -> "fallback")। handle(request, handlers) लिखें जहाँ request {"intent", "text"} है और handlers एक नाम को एक callable से जोड़ता है: intent की श्रृंखला पर चलें, हर handler को क्रम से try करें, और पहले error न उठाने वाले के लिए {"handler": name, "result": ...} लौटाएँ। अनजान intents और विफल मुख्य handlers को श्रृंखला में नीचे गिरना होगा (जो हमेशा fallback पर ख़त्म होती है)। अगर श्रृंखला का हर handler error उठाए (या ग़ायब हो), तो error न उठाएँ: {"handler": None, "result": None} लौटाएँ, ताकि कॉल करने वाला एक दोस्ताना error दिखा सके। आज़माए handlers का trace जैसी अतिरिक्त कुंजियों की अनुमति है।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।