पाठ्यक्रम 250 में से पाठ 125 · AI engineers के लिए prompt engineering
AI engineers के लिए prompt engineering

Chain-of-thought और आख़िरी जवाब parse करना

जिस किसी चीज़ को तर्क चाहिए (गणित, कई क़दमों वाला तर्क, सावधान classification), मॉडल से जवाब देने से पहले क़दम दर क़दम सोचने को कहना accuracy को मापने लायक बढ़ाता है। पेच: अब मॉडल तर्क की एक दीवार देता है, और आपको फिर भी दूसरी तरफ़ से एक साफ़ मशीन से पढ़ा जाने वाला जवाब चाहिए।

मानक तरकीब है मॉडल को एक तय पंक्ति पर ख़त्म कराना जिसे आप parse कर सकें, जैसे Answer: 42। आप वह prompt बनाते हैं जो उस आकार को माँगता है, और वह parser लिखते हैं जो उसे निकालता है। मॉडल बीच में तर्क करता है (ग्रेड नहीं होता), पर दोनों सिरों का अनुबंध आपका है।

एक chain-of-thought जवाब ऐसा दिखता है:

There are 3 boxes with 4 apples each.
3 times 4 is 12.
Answer: 12

दो फ़ंक्शन बनाएँ:

  • cot_prompt(question) एक prompt स्ट्रिंग लौटाता है जिसमें सवाल हो, जो मॉडल से step by step तर्क करने को कहे, और उसे ठीक Answer: <value> रूप की पंक्ति पर ख़त्म करने का निर्देश दे।
  • parse_final_answer(model_output) आउटपुट देखता है और आख़िरी Answer: पंक्ति के बाद का मान लौटाता है (छोटे-बड़े अक्षर से स्वतंत्र, strip किया)। ऐसी कोई पंक्ति न हो तो None लौटाएँ।

2026 का एक नोट: साफ़ "think step by step" निर्देश पुराने, बिना सोचने वाले मॉडलों के लिए बना था। आधुनिक thinking/reasoning मॉडल यह पहले से अंदर करते हैं, इसलिए हाथ से बना chain-of-thought जोड़ना फ़ालतू हो सकता है या गुणवत्ता भी बिगाड़ सकता है। साफ़ CoT का इस्तेमाल मुख्य रूप से छोटे या बिना सोचने वाले मॉडलों के साथ करें, या जब आपको parse या जाँचने के लिए दिखने वाले क़दम सचमुच चाहिए हों।

दो बातें अपनी क़ीमत वसूलती हैं। आख़िरी पंक्ति जीतती है: मॉडल अक्सर ख़ुद को सुधारता है ("Answer: 3 ... रुको, Answer: 5"), और आख़िरी पंक्ति असली जवाब है, इसलिए नीचे तक देखें। न होने पर None: अगर मॉडल ने कभी वह पंक्ति नहीं दी, तो अंदाज़ा लगाने के बजाय ईमानदारी से यह कहें, ताकि कॉल करने वाला दोबारा कोशिश कर सके। ग्रेड करने के लिए Run दबाएँ।

आपकी बारी

cot_prompt(question) लिखें जो ऐसा prompt लौटाए जिसमें सवाल, वाक्यांश step by step, और एक Answer: निर्देश हो। parse_final_answer(model_output) लिखें जो Answer: से मेल खाने वाली आख़िरी पंक्ति (छोटे-बड़े अक्षर से स्वतंत्र) के बाद का strip किया टेक्स्ट लौटाए, या ऐसी कोई पंक्ति न हो तो None।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।