البحث عن رأس استقرائي
لماذا هذا مهم تعتبر رأس الاستحثاث (Olsson et al. 2022) هي القصة الأكثر شهرة في قابلية التفسير: تجد رأس واحدة النسخة السابقة من الرمز الحالي وتركز على الرمز الذي يليه، لذا يمكن للنموذج إكمال التكرار. هذا حقيقي في النماذج الكبيرة. الخطأ هو افتراض أن النموذج الصغير ينسخ بنفس الطريقة لأنه ينسخ.
دربت الدورة نموذج GPT مكونا من كتلتين فقط للنسخ: كل صف هو تشغيل عشوائي من 4 إلى 16 حرفا، يتكرر لملء 32 موقعا. لا يمكن التنبؤ بالتشغيل الأول (الخسارة حوالي ln 26 = 3.26)؛ بعده، يمكن نسخ كل حرف. تعلم النموذج النسخ: خسارته على التكرارات هي حوالي 0.13 إلى 0.15 (تعتمد على العينة).
توقع الكتاب المدرسي: يركز بعض الرؤوس معظم انتباهه على الحرف الذي يلي نسخة سابقة من الحرف الحالي. قم بقياس ذلك. لكل رأس، احسب حصة الانتباه، بمتوسط مواقع التكرار، التي تقع على المواقع j حيث الحرف قبل j يساوي الحرف الحالي. قارن ذلك بالانتباه الموحد، الذي ينتشر بالتساوي فوق جميع المواقع السابقة. ثم قم بإزالة كل رأس وقس خسارة التكرار.
توقع أولا: هل سيضع رأس واحد أكثر من نصف انتباهه هناك؟
حيث يكون الحقل الآن رؤوس الاستحثاث حقيقية: وجد Olsson et al. (2022) أنها تتشكل، في تغير طور مفاجئ، في النماذج المدربة على النصوص العادية، بما في ذلك النماذج ثنائية الطبقة مع attention فقط. لماذا ليس هنا؟ هذا النموذج يحتوي على MLPs و layer norm، مدرب لفترة وجيزة على مهمة نسخ اصطناعية واحدة مع عدة حلول ممكنة، ووجد حلاً آخر. هذه هي نقطة الدرس، وهي أيضاً حدوده: اللعبة التي لا تظهر تأثيراً منشوراً ليست دليلاً ضدها. نتائج النماذج الصغيرة في هذه الدورة هي قياسات لتلك النماذج؛ عند التوسع، سيصمد بعضها ولن يصمد البعض الآخر.
الكلمات والرموز في هذا الدرس
- قابلية التفسير
- معرفة ما تحسبه الشبكة المدربة في الداخل، والتحقق من ذلك
- النمط، التأثير، الآلية
- ثلاثة أنواع من الأدلة: نظرت ورأيت؛ غيرتها وتغيرت النتيجة؛ شرحتها والتفسير توقع حالات جديدة
- رأس الاستقراء
- a رأس يجد نسخة سابقة من الرمز الحالي وينتبه للرمز الذي يليه
اجعل my_guess "yes" أو "no". اكتب induction_share(A, X, Ls): بالنسبة لأوزان الانتباه A (B, t, t) لرأس واحد، المتوسط عبر الصفوف b والمواقع المتكررة i (من Ls[b] إلى t - 1) للانتباه على المواقع j ≤ i حيث X[b, j - 1] == X[b, i] (j ≥ 1). املأ share[(layer, head)] للرؤوس الثمانية و removed[(layer, head)] بخسارة التكرار عندما يتم تعيين ذلك الرأس إلى صفر. اجعل needed هو الرأس الذي يؤدي إزالته إلى أكبر ضرر.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.