عمليات الاستئصال: ثلاث تغييرات، ثلاث بذور لكل منها
لماذا هذا مهم "ساعد هذا التغيير" هو الادعاء الأكثر شيوعا في أي تقرير مشروع، وهو الادعاء الذي يتم تقديمه غالبا من تشغيل واحد فقط. قاعدة Module 22 تقرر ذلك هنا، في عمليات التشغيل الخاصة بك.
اختر ثلاثة تغييرات على خط الأساس، يغيّر كلٌّ منها إعداداً واحداً بالضبط (width أو lr أو steps أو batch أو weight_decay). شغّل كلاً منها بالبذور 0 و1 و2، وشغّل خط الأساس مجدداً بالبذور نفسها (في سجل هذا الدرس، لتكون كل الأرقام في مكان واحد). استخدم evals=1: لا يلزم سوى النتيجة النهائية.
لكل تغيير: diff = متوسط درجة التغيير ناقص متوسط درجة الأساس (الأعلى هو الأفضل)، و se = judge.standard_error(baseline, change). الحكم: "better" إذا كان diff > 2 se، و "worse" إذا كان diff < -2 se، وإلا "not shown".
يجب أن يتناسب الإجمالي مع ميزانيتك: التغيير الذي يكلف أكثر (أوسع، خطوات أكثر) يستهلك المزيد منه.
الكلمات والرموز في هذا الدرس
- baseline
- التشغيل البسيط الذي يتم قياس كل تغيير مقابلها، عبر نفس البذور
- ablation قم بتغيير
- one إلى الخط الأساسي، وقم بالتشغيل عبر عدة بذور، لمعرفة ما تفعله
Set CHANGES (ثلاثة، كل واحد إعداد). املأ log بـ 12 run و verdict[name] لكل change. اطبع means و 2 se.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.