आत्मविश्वासी और ग़लत
यह क्यों मायने रखता है एक language model एक ग़लत जवाब उसी शांत, अच्छे format वाली आवाज़ में लिखता है जिसमें एक सही। लहजा आपको कुछ नहीं बताता। एक विफल होता test आपको सब कुछ बताता है।
धाराप्रवाह होना वह है जिसके लिए ये models train होते हैं, इसलिए इसकी उन्हें कोई क़ीमत नहीं। सही होना एक अलग गुण है, और टेक्स्ट यह नहीं दिखाता कि आपको कौन-सा मिल रहा है। जो सलाह तय अभ्यास जैसी लगती है ("बस इसे retry करें", "यह regex मानक वाली है", "नाम और आकार काफ़ी हैं") वह सबसे ख़तरनाक है, क्योंकि वह दूसरी नज़र को न्योता नहीं देती।
एक Stanford अध्ययन में, जिन लोगों ने एक AI assistant के साथ सुरक्षा-संवेदनशील code लिखा उन्होंने बिना assistant वालों से कम सुरक्षित code लिखा, और उनके यह मानने की ज़्यादा संभावना थी कि उनका code सुरक्षित है (Perry et al. 2023)। वही अंतर रफ़्तार के लिए दिखता है: 2025 के एक परीक्षण में, AI औज़ार इस्तेमाल करने वाले अनुभवी open-source developers को अपने कामों में ज़्यादा समय लगा जबकि उन्हें लगा कि वे तेज़ थे (METR 2025)। एक जवाब के बारे में आप कितने आश्वस्त महसूस करते हैं वह उसका माप नहीं।
बहस न करें, साबित करें
जब सलाह खटके, तो सबसे मज़बूत जवाब एक बेहतर तर्क नहीं। यह एक छोटा test है जो सलाह वाले code पर विफल हो और एक सही वर्ज़न पर पास हो। एक तर्क का जवाब तर्क से दिया जा सकता है। एक विफल test चर्चा ख़त्म कर देता है, और वह codebase में रहता है ताकि ग़लती लौट न सके।
प्रति-उदाहरण: एक ठोस input जहाँ दावा झूठा है। "यह हमेशा काम करता है" को डुबाने के लिए एक काफ़ी है।
यह module कैसे काम करता है
हर पाठ code के साथ रोपी गई सलाह का एक टुकड़ा दिखाता है। सलाह कोर्स के लिए लिखी गई थी और जानबूझकर ग़लत है, उन तरीकों से जिनसे असली सलाह ग़लत होती है। आप एक test लिखते हैं। यह सलाह वाले code, उसके कई क़रीबी रिश्तेदारों, और एक छिपे सही वर्ज़न पर चलता है। इसे सही वाले को पास करना और बाक़ी में से काफ़ी को पकड़ना होगा।
सार धाराप्रवाह सही नहीं। एक शक को प्रति-उदाहरण में बदलें, और प्रति-उदाहरण को एक test में।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।