पाठ्यक्रम 246 में से पाठ 224 · Module 21: एक model के अंदर देखना
Module 21: एक model के अंदर देखना

अलग करना: एक sparse autoencoder

यह क्यों मायने रखता है अगर features superposition में रखे हैं, units देखने से वे नहीं मिलेंगे। एक sparse autoencoder (Bricken et al. 2023, Cunningham et al. 2023) इसे पलटने की कोशिश करता है: हर vector को उसकी संख्याओं से कहीं ज़्यादा दिशाओं से फिर बनाना, पर एक बार में बस कुछ से।

पाठ text के 19,200 अक्षरों के लिए, block 1 के बाद GPT के 64-संख्या vectors लें। 256 features वाला एक sparse autoencoder f = relu(z We + be) निकालता है और z = f Wd फिर बनाता है। loss फिर बनाने की त्रुटि जमा l1 गुणा f का कुल आकार है, जो ज़्यादातर features को ठीक शून्य पर धकेलता है।

interp.train_sae(A, features=256, l1=...) एक train करता है; sae.unexplained(A) vectors के फैलाव का वह हिस्सा है जो फिर बनाना चूकता है (0 सटीक है) और sae.features(A) f देता है।

पहले अनुमान लगाएँ: एक तेज़ धक्के (l1 = 0.3) के साथ, क्या फिर बनाना अब भी ज़्यादातर फैलाव समझाएगा (unexplained 0.2 से नीचे)?

इस पाठ के शब्द और चिह्न
superposition
संख्याओं से ज़्यादा features रखना, ऐसी दिशाओं के रूप में जो शायद ही कभी साथ में चालू हों
sparse autoencoder
एक चौड़ी layer जो एक बार में कुछ सक्रिय features से vectors फिर बनाने के लिए train की गई
आपकी बारी

my_guess को "yes" या "no" पर सेट करें। l1 0.03 और 0.3 पर train करें (हर एक 128 vectors के 600 steps)। held-out vectors A_new पर unexplained[l1] भरें, और active[l1]: हर held-out अक्षर पर शून्य से ऊपर features की औसत संख्या।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।