آنچه شبکه به آن نگاه میکند، آزمودهشده
چرا مهم است نقشههای گرمایی «آنچه شبکه به آن نگاه کرد» همه جا هستند و اغلب گمراهکنندهاند. اینجا یکی میسازید و سپس میآزمایید که آیا معنایی دارد یا نه.
یک نقشهٔ برجستگی گرادیان امتیاز کلاس برنده نسبت به هر پیکسل ورودی است: اینکه روشنایی آن پیکسل چقدر پاسخ را تغییر میدهد. موتور شما آن را رایگان محاسبه میکند: ورودی را یک Tensor کنید و backward را فراخوانی کنید.
بیازماییدش، به آن اعتماد نکنید
اگر نقشه واقعاً پیکسلهایی را که مهماند علامت میزند، آنگاه خاموش کردن 20 پیکسل برجستهتر باید بیش از خاموش کردن 20 پیکسل تصادفی به اطمینان شبکه آسیب بزند. این یک آزمون حذف است. نقشهای که در آن رد شود تزیین است.
اما شکست دادن پیکسلهای تصادفی آستانهٔ پایینی است. روی این شکلها، پیکسلهای روشن خود شکلاند، پس نقشهای که صرفاً روشنترین پیکسلها را علامت میزند، بدون دخالت هیچ شبکهای، هم از تصادفی بهتر است. پرسش منصفانه این است که آیا نقشهٔ شبکه آن خط پایهٔ بدون مدل را شکست میدهد. اگر ندهد، چیزی به شما نگفته که نگاهی به تصویر نمیگفت.
خط پایه: سادهترین چیزی که میتواند یک نتیجه را توضیح دهد. یک روش فقط با شکست دادن بهترین خط پایهٔ ارزان اعتماد به دست میآورد، نه بدترین.
واژهها و نمادهای این درس
- نقشهٔ برجستگی
- گرادیان امتیاز برنده نسبت به هر پیکسل ورودی
- RECORDED
- یک اجرای واقعی که دوره یک بار آموزش داده و برای مطالعهٔ شما ارائه میکند
یک CNN که دوره یک بار آموزش داده برایتان بارگذاری شده (یک شبکهٔ ثبتشده، 96% روی شکلهای تازه). saliency(x) را برای یک تصویر x با شکل (16, 16, 1) بنویسید که |گرادیان امتیاز برنده| را برای هر پیکسل با شکل (16, 16) برمیگرداند. برای گرفتن گرادیان یک امتیاز، ستونش را با E.cols(scores, k, k + 1) بردارید، با E.total جمعش بزنید و روی آن backward را فراخوانی کنید. سپس deletion_drop(x, pixels)، که pixels فهرستی از جفتهای (ردیف، ستون) است: افت احتمال کلاس برنده وقتی آن پیکسلها 0 میشوند. در پایان، روی 100 تصویر آزمون اول، میانگین افت را برای 20 پیکسل برجستهتر و برای 20 پیکسل روشنتر بسنجید و beats_brightness را از روی اعداد خودتان True یا False قرار دهید. آزمون همچنین نقشهٔ شما را در برابر 20 پیکسل تصادفی بررسی میکند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.