पाठ्यक्रम 246 में से पाठ 225 · Module 21: एक model के अंदर देखना
Module 21: एक model के अंदर देखना

एक feature पढ़ना, और पढ़ाई जाँचना

यह क्यों मायने रखता है एक feature को उसके शीर्ष उदाहरणों से नाम मिलता है। वह नाम एक परिकल्पना है, और ज़्यादातर छपे feature labels कभी उस text पर नहीं परखे जाते जो label देने वाले ने नहीं देखा।

कोर्स का दर्ज sparse autoencoder load करें (256 features, l1 0.3, 512 vectors के 2,000 steps train किया, एक पाठ की अनुमति से लंबा, और हर machine पर वही features) और कुछ strings के लिए, उस स्थिति के सबसे विशिष्ट feature को चुनें जहाँ text उस string पर ख़त्म होता है। फिर उसे label दें और held-out text पर label परखें:

  • precision: held-out जगहों में से जहाँ feature ज़ोर से चलता है (अपने सबसे बड़े training मान के आधे से ऊपर), वह हिस्सा जहाँ text सच में उस string पर ख़त्म होता है;
  • recall: string पर ख़त्म होने वाली held-out जगहों में से, वह हिस्सा जहाँ यह चलता है।

interp.top_contexts(sae, A, X, model, k) दिखाता है कि feature k सबसे ज़ोर से कहाँ चलता है, उस अक्षर तक के text के रूप में।

पहले अनुमान लगाएँ: "tra" का feature " before tra" और " layers tra" ("train" की शुरुआत) पर सबसे ज़ोर से चलता है। क्या एक "tra" label नए text पर ज़्यादातर समय सही होगा?

इस पाठ के शब्द और चिह्न
sparse autoencoder
एक चौड़ी layer जो एक बार में कुछ सक्रिय features से vectors फिर बनाने के लिए train की गई
precision, recall (of a label)
जिन जगहों पर feature चलता है, उनमें label कितने हिस्से पर ठीक बैठता है; जिन जगहों पर label ठीक बैठता है, उनमें यह कितने पर चलता है
आपकी बारी

my_guess को "yes" या "no" पर सेट करें। held-out vectors पर (precision, recall) लौटाने वाला check(k, s) लिखें, जहाँ feature एक जगह पर चलता है जब वहाँ उसका मान training vectors पर उसके सबसे बड़े मान (F[:, k].max()) के आधे से ऊपर हो। " the", "ing" और "tra" के लिए results[s] = check(feature_for(s), s) भरें। honest_label को उन strings पर सेट करें जिनका label टिकता है (precision कम से कम 0.7) और really को उस तीन-अक्षर अंत पर जिस पर "tra" feature held-out text में सबसे ज़्यादा चलता है।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।