تنعيم الملصقات والمعايرة
لماذا هذا مهم غالبا ما يتم الترويج لـ Label smoothing على أنه "يحسن المعايرة". أحياناً يفعل ذلك. وأحياناً يجعلها أسوأ. قم بالقياس ولا تفترض.
Label smoothing بالتدريب نحو أهداف مثل 0.91 للفئة الحقيقية و0.01 لكل فئة أخرى، بدلاً من 1 و0 بالضبط. هذا يمنع النموذج من دفع ثقته إلى الطرف الأقصى. إذا كان النموذج واثقاً أكثر من اللازم، فإن ذلك يساعد. أما إذا كان يفتقر للثقة بالفعل، فإن ذلك يجعل الأمور أسوأ.
تنبأ أولا، ثم قم بالقياس على هذا النموذج.
الكلمات والرموز في هذا الدرس
- calibration, ECE
- سواء كانت الثقة تطابق الدقة؛ فجوة المتوسط الموزون
اضبط my_prediction على "better" أو "worse": هل سيخفض التنعيم 0.1 قيمة ECE هنا؟ ثم احسب ece_plain وece_smooth بالدوال المعطاة، واضبط measured على ما حدث فعلاً.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.