گذر رو به عقب کانولوشن
چرا مهم است یک CNN برای یاد گرفتن فیلترهایش گرادیان زیان نسبت به هر وزن فیلتر را لازم دارد. معلوم میشود خودش یک کانولوشن دیگر است.
اعداد کوچک، اول در یک بعد
ورودی x = [1, 2, 3, 4]، فیلتر w = [10, 20]، خروجی معتبر y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. وزن w[0] به x[0]، x[1]، x[2] (یک بار برای هر خروجی) دست زد، پس گرادیانش g[0]*x[0] + g[1]*x[1] + g[2]*x[2] است: ورودی که در برابر گرادیان رسیدهٔ g لغزانده شده. ورودی x[1] را y[0] (با w[1]) و y[1] (با w[0]) به کار بردند، پس گرادیانش g[0]*w[1] + g[1]*w[0] را جمع میکند.
قواعد
- گرادیان فیلتر: ورودی را در برابر گرادیان رسیده بلغزانید (یک همبستگی معتبر x با g).
- گرادیان ورودی: g را لایهگذاری کنید و فیلتر را، وارونهشده، روی آن بلغزانید (یک کانولوشن کامل).
همان ایده در دو بعد. Conv2d در کتابخانهٔ دوره پس از این درس باز میشود.
واژهها و نمادهای این درس
- کانولوشن
- لغزاندن یک شبکهٔ کوچک از وزنها (یک فیلتر) روی یک تصویر، یک ضرب داخلی برای هر جایگاه
- فیلتر، نقشهٔ ویژگی
- شبکهٔ کوچک یادگرفتهشده از وزنها؛ و تصویر پاسخهایش
conv1d(x, w) (معتبر) و conv1d_backward(x, w, g) را بنویسید که (dx, dw) را برمیگرداند. سپس conv2d_backward(img, k, g) را که (dimg, dk) را برای کانولوشن معتبر دوبعدی برمیگرداند. آزمون پنهان هر گرادیان را با یک جابهجایی بررسی میکند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.