إعادة قيمة واحدة: تفعيل التصحيح
لماذا هذا مهم تصحيح التنشيط (Meng et al. 2022, Wang et al. 2022) يحول "هذا الجزء يتماشى مع الإجابة" إلى "هذا الجزء يحمل الإجابة"، عن طريق نقل قيمة واحدة من تشغيل إلى آخر.
مدخلان يختلفان في حرف واحد:
- النظيف: "the gradient of the los": يعطي GPT الحرف التالي "s" احتمالاً قدره 0.91.
- المُفسَد: "the gradient of the bos": 0.39.
شغّل المُدخل المُفسَد، لكن في مكان واحد وموضع واحد، ضع بدلاً منه المتجه من التشغيل النظيف. إذا قفز احتمال "s" عائداً إلى 0.91، فإن ذلك المتجه كان يحمل ما أخبر به الحرف "l" النموذج. يقوم interp.patch(model, clean_ids, bad_ids, site, pos) بالتبديل ويُرجع الـ logits؛ ويقرأ interp.next_prob(logits, answer, model) الاحتمال.
عند 'resid0' (قبل الكتلة 0، أي فقط الـ embeddings)، و'resid1' (بين الكتل) و'final'، لآخر خمسة مواقع.
توقع أولا: في 'resid1'، هل لا يزال "l" يحمل في موضعه الخاص، أم في مكان آخر؟
الكلمات والرموز في هذا الدرس
- تنشيط التصحيح
- تشغيل مدخل واحد بقيمة مأخوذة من تشغيل مدخل آخر، لمعرفة ما تحمله تلك القيمة
اضبط my_guess على "own position" أو "somewhere else". املأ restored[site] بقائمة من خمسة احتمالات، واحد لكل موضع من len(clean) - 5 حتى النهاية. ثم اضبط where[site] على حرف clean في الموضع الذي يستعيده.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.