पाठ्यक्रम 250 में से पाठ 137 · संरचित आउटपुट और function/tool calling
संरचित आउटपुट और function/tool calling

बिगड़े मॉडल JSON की मरम्मत

मॉडल पूर्ण JSON बनाने वाले नहीं हैं। JSON mode में भी वे आउटपुट को ```json fences में लपेटते हैं, एक बातूनी भूमिका जोड़ते हैं ("ज़रूर! यह रहा डेटा:"), आख़िर में कॉमा छोड़ देते हैं, या single quotes इस्तेमाल करते हैं। एक सादा json.loads इन सब पर error उठाता है, और production में यह एक विफल अनुरोध है। एक छोटा मरम्मत क़दम हार मानकर मॉडल को दोबारा prompt करने से पहले इनमें से ज़्यादातर को सस्ते में ठीक कर देता है।

एक मज़बूत रास्ते का आकार ऐसा दिखता है:

text = call_model(prompt)        # may be fenced / prose-wrapped / sloppy
try:
    data = json.loads(text)
except ValueError:
    data = repair_json(text)     # one cheap repair attempt before re-prompting

आप repair_json(text) बना रहे हैं। इसे इन क़दमों से क्रम में गुज़ारें, और जैसे ही json.loads सफल हो रुक जाएँ:

  • code fence हटाएँ। अगर पूरी चीज़ ``` (वैकल्पिक रूप से ```json) में लिपटी है, तो सिर्फ़ अंदर का रखें। re.DOTALL के साथ ^```[a-zA-Z]*\s*(.*?)\s*```$ जैसा regex यह करता है।
  • आसपास का गद्य काटें। पहला { या [ और मेल खाता आख़िरी } या ] ढूँढें, और बस उतना हिस्सा काटकर निकालें। इससे पहले का "ज़रूर! यह रहा..." और बाद की कोई भी बकबक हट जाती है।
  • जैसा है वैसा आज़माएँ। कई स्ट्रिंग अब मान्य हैं -> जल्दी लौटाएँ।
  • सबसे हल्की टूट पहले ठीक करें: re.sub(r",(\s*[}\]])", r"\1", s) से आख़िरी कॉमा हटाएँ, फिर दोबारा json.loads।
  • आख़िरी उपाय: single quotes को double quotes में बदलें और एक बार और आज़माएँ।
  • अगर यह फिर भी parse न हो, तो error उठाएँ: एक ValueError -> कभी कचरा न लौटाएँ। मरम्मत न होने लायक स्ट्रिंग दोबारा prompt करने का संकेत है, अंदाज़ा लगाने का नहीं।

quote बदलना आख़िर में क्यों: यह string मानों के अंदर के apostrophes भी बदल देता है, इसलिए पहले बदलने पर {"note": "it's fine",} टूट जाता, जबकि सिर्फ़ कॉमा हटाना उसे ठीक कर देता है। मॉडल आउटपुट में अक्सर apostrophes होते हैं (O'Brien जैसे नाम, it's जैसे शब्द), इसलिए मान बिगाड़ न सकने वाले इलाज उस इलाज से पहले आज़माएँ जो बिगाड़ सकता है। तब भी यह बचाव की पहली पंक्ति है; जब कोई असली जवाब parse न हो, तो दोबारा prompt करना (या structured outputs, जो मॉडल को मान्य JSON तक सीमित करते हैं) चालाक मरम्मत से बेहतर है। पक्का करें कि साफ़ JSON बिना छुए पास हो, true/false Python True/False के रूप में बचें, और बिना ठीक होने लायक JSON वाली स्ट्रिंग error उठाए।

आपकी बारी

repair_json(text) लिखें जो ```/```json code fence हटाए, पहले {/[ से पहले और मेल खाते आख़िरी }/] के बाद का कोई भी गद्य काटे, फिर json.loads आज़माए; विफल होने पर आख़िरी कॉमा हटाकर दोबारा आज़माए; सिर्फ़ तब जब वह भी विफल हो तो single quotes को double quotes में भी बदलकर एक बार और आज़माए (quote बदलना आख़िर में आता है क्योंकि यह मानों के अंदर के apostrophes भी बदलता है); अगर यह फिर भी parse न हो तो ValueError उठाए। साफ़ JSON को बिना बदले पास होना चाहिए।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।