पाठ्यक्रम 250 में से पाठ 141 · संरचित आउटपुट और function/tool calling
संरचित आउटपुट और function/tool calling

Tool dispatcher / router

मॉडल ने आपके tool schemas पढ़े और एक tool call से जवाब दिया: {"name": "add", "arguments": {"a": 4, "b": 5}} जैसा parse किया ऑब्जेक्ट। अब आपके प्रोग्राम को सचमुच सही फ़ंक्शन चलाना है। यह एक dispatcher (या router) का काम है: नाम वाला tool ढूँढें, जाँचें कि आर्ग्युमेंट ठीक वही हैं जिनकी फ़ंक्शन उम्मीद करता है, उसे बुलाएँ, और नतीजा लौटाएँ। यही वह रेखा है जहाँ LLM के शब्द आपके सिस्टम में एक असली असर बनते हैं, इसलिए यहीं आपको सख़्त होना होगा।

एक असली लूप में यह मॉडल का जवाब parse करने के ठीक बाद बैठता है:

call = parse_tool_call(model_reply)        # {"name": ..., "arguments": {...}}
result = dispatch(call, TOOL_REGISTRY)     # runs the matching Python function
# feed result back to the model as the tool's observation

आप dispatch(call, registry) बना रहे हैं, जहाँ registry tool नामों को Python फ़ंक्शनों से जोड़ता है। इसे:

  • call["name"] और call["arguments"] पढ़ने हैं (arguments का डिफ़ॉल्ट {})।
  • अनजान tool अस्वीकार करना है। अगर नाम registry में नहीं है, तो ValueError उठाएँ -> कभी चुपचाप कुछ न करें, और कभी मॉडल का गढ़ा tool न चलाएँ।
  • आर्ग्युमेंट जाँचने हैं। फ़ंक्शन के parameter नाम पाने के लिए inspect.signature इस्तेमाल करें और पक्का करें कि दिए आर्ग्युमेंट कुंजियाँ ठीक मेल खाती हैं -> ग़ायब आर्ग्युमेंट या अनपेक्षित अतिरिक्त को error उठाना होगा।
  • बुलाना और लौटाना है। फ़ंक्शन को func(**arguments) से बुलाएँ और उसका नतीजा लौटाएँ।
import inspect
expected = set(inspect.signature(func).parameters)
if set(arguments) != expected:
    raise ValueError("bad arguments")
return func(**arguments)

आर्ग्युमेंट पर इतनी सख़्ती क्यों? ग़लत आर्ग्युमेंट के साथ चलने वाली tool call या तो आपके फ़ंक्शन के गहरे अंदर क्रैश होती है या, उससे भी बुरा, चुपचाप ग़लत काम करती है। सीमा पर ज़ोर से विफल होना ही पूरी बात है। इसे ऐसे बनाएँ कि दो अलग tools (मान लें एक calculator और एक lookup) हर एक अपना नतीजा लौटाए, अनजान tool error उठाए, और ग़ायब और अतिरिक्त दोनों आर्ग्युमेंट error उठाएँ।

आपकी बारी

dispatch(call, registry) लिखें जहाँ call {"name": ..., "arguments": {...}} है और registry नामों को फ़ंक्शनों से जोड़ता है। अनजान tool नाम पर error उठाएँ। inspect.signature इस्तेमाल करके पक्का करें कि हर ज़रूरी parameter मौजूद है और कोई अनपेक्षित अतिरिक्त नहीं है (default वाला parameter वैकल्पिक है, इसलिए उसे छोड़ना ठीक है)। inspect.signature(func).parameters हर नाम को एक parameter ऑब्जेक्ट p से जोड़ता है; p.default is inspect.Parameter.empty ठीक तब True है जब parameter का कोई default न हो, इसलिए वह ज़रूरी है, फिर func(**arguments) बुलाएँ और नतीजा लौटाएँ। दो अलग tools को हर एक अपना नतीजा लौटाना होगा।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।