output पढ़ें, लहजा नहीं
यह क्यों मायने रखता है एक assistant का जवाब दावों का एक बंडल है: ये packages मौजूद हैं, यह diff बस bug ठीक करता है, यह code किनारे का मामला संभालता है, ये commands सुरक्षित हैं। हर दावा जाँचा जा सकता है, और ज़्यादातर जाँचें सस्ती हैं।
पहले के modules ने एक विफल test से सलाह को ग़लत साबित किया। यह module एक क़दम और चौड़ा जाता है: यह जवाब के उन हिस्सों को जाँचता है जिन्हें लोग छोड़ देते हैं क्योंकि वे plumbing जैसे दिखते हैं।
- नाम: packages, functions और flags। code बनाने वाले models के एक बड़े अध्ययन में, औसतन commercial models के सुझाए packages में से कम से कम 5.2%, और open models वालों में से 21.7%, मौजूद नहीं थे, 200,000 से ज़्यादा अलग गढ़े नामों के साथ (Spracklen et al., USENIX Security 2025)। एक हमलावर एक गढ़ा नाम register करके इंतज़ार कर सकता है।
- दायरा: एक diff जो bug ठीक करता है और चुपचाप तीन और functions बदल देता है।
- चुनाव: एक अस्पष्ट request assistant से वे चीज़ें तय करवाती है जो आपने कभी नहीं कहीं, जैसे अक्षरों का case, क्रम या ख़ाली मान।
- सहमति: दो बार पूछना और दो बार एक ही जवाब पाना उसे सही नहीं बनाता।
- क्रियाएँ: commands चलाने वाला एक agent आपके इरादे वाले folder से बाहर क़दम रख सकता है।
Slopsquatting: एक package को ऐसे नाम के नीचे register करना जो models गढ़ने की ओर झुकते हैं, ताकि उसे install करने वाला code हमलावर का code चलाए।
Typosquatting: एक लोकप्रिय package से एक चूक दूर का नाम register करने की पुरानी चाल (requets), एक व्यक्ति या एक model की typing ग़लती का इंतज़ार करते हुए।
इस module का assistant output कोर्स के लिए ठीक उस आकार में लिखा गया जो असली assistants बनाते हैं। यह किसी ख़ास model की recording नहीं।
सार एक जवाब को दावों में बाँटें और सस्ते वाले हर बार जाँचें: नाम, दायरा, चुनाव, सहमति, क्रियाएँ।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।