المنهج الدراسي الدرس 121 من 246 · الوحدة 10: الشبكات التي ترى (CNNs)
الوحدة 10: الشبكات التي ترى (CNNs)

ما الذي تراقبه الشبكة، تم اختباره

لماذا هذا مهم خرائط الحرارة لـ "ما الذي نظر إليهت الشبكة" منتشرة في كل مكان، وغالباً ما تكون مضللة. هنا تقوم بإنشاء واحدة ثم تختبر ما إذا كانت تعني أي شيء.

A saliency map هو تدرج درجة الفئة الفائزة بالنسبة لكل بكسل مدخل: مقدار التغير الذي سيحدثه سطوع ذلك البكسل في الإجابة. يقوم المحرك الخاص بك بحسابه مجاناً: اجعل المدخل Tensor واستدعِ backward.

اختبره، ولا تثق به

إذا كانت الخريطة تحدد بالفعل البكسلات المهمة، فإن إخفاء أكثر 20 بكسلاً بروزاً يجب أن يقلل من ثقة الشبكة أكثر من إخفاء 20 بكسلاً عشوائياً. هذا هو اختبار الحذف. الخريطة التي تفشل في هذا الاختبار هي مجرد زينة.

لكن هزيمة البكسلات العشوائية هي معيار منخفض. في هذه الأشكال، البكسلات الساطعة هي الشكل، لذا فإن الخريطة التي تكتفي بتحديد البكسلات الأكثر سطوعا، دون أي تدخل من الشبكة، تهزم العشوائية أيضا. السؤال العادل هو ما إذا كانت خريطة الشبكة تهزم ذلك الأساس الذي لا يعتمد على نموذج. إذا لم تفعل، فهي لم تخبرك بشيء لا يمكن معرفته بمجرد نظرة على الصورة.

Baseline: أبسط شيء يمكنه تفسير نتيجة ما. تكتسب الطريقة الثقة فقط من خلال التغلب على أفضل Baseline رخيص، وليس أسوأ واحد.

الكلمات والرموز في هذا الدرس
saliency map
تدرج درجة الفوز بالنسبة لكل بكسل مدخل
تم التسجيل
قم بتشغيل الدورة التدريبية مرة واحدة وشحنها لك لتدرسها
دورك

A CNN الدورة التدريبية المحملة لك مرة واحدة (شبكة مسجلة، 96% على الأشكال الجديدة). اكتب saliency(x) لصورة واحدة x بشكل (16, 16, 1)، تعيد |gradient النتيجة الفائزة| لكل بكسل بشكل (16, 16). لأخذ gradient نتيجة واحدة، اختر عمودها باستخدام E.cols(scores, k, k + 1)، أضفه إلى E.total، واستدعِ backward على ذلك. ثم deletion_drop(x, pixels)، حيث pixels هي قائمة من أزواج (row, column): الانخفاض في احتمالية الفئة الفائزة عندما يتم تعيين تلك البكسلات إلى 0. أخيراً، قم بقياس متوسط الانخفاض لأعلى 20 بكسل بارز ولأكثر 20 بكسل سطوعاً عبر أول 100 صورة اختبار، واضبط beats_brightness إلى True أو False بناءً على أرقامك الخاصة. يختبر الاختبار أيضاً خريطتك مقابل 20 بكسل عشوائياً.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.