گذر رو به عقب وقتی شکلها کشیده میشوند (پخش)
چرا مهم است این رایجترین اشکال autograd در جهان است. بایاسی با شکل (4,) که به دستهای با شکل (32, 4) اضافه شده 32 بار به کار رفته، پس گرادیانش باید همهٔ 32 سهم را جمع کند.
اعداد کوچک
out = X + b با X (3, 2) و b (2,). گرادیان رسیده (3, 2) است. b در هر 3 ردیف کپی شده بود، پس هر کپی سهمی گرفت: گرادیان b جمع روی ردیفهاست، با شکل (2,). اگر آرایهٔ (3, 2) را برگردانید، شکلها دیگر جور نیستند، یا بدتر، پخش آن را پنهان میکند و اعداد 3 برابر اشتباهاند.
قاعده: هر جا پخش جهتی را اضافه کرد، آن را با جمع حذف کنید؛ هر جا یک جهت با اندازهٔ 1 را کشید، آن را جمع بزنید اما با اندازهٔ 1 نگه دارید.
خلاصه کپیشده در رو به جلو یعنی جمعشده در رو به عقب.
واژهها و نمادهای این درس
- autograd
- گرادیانهای خودکار: شما گذر رو به جلو را مینویسید، موتور گذر رو به عقب را انجام میدهد
- Tensor
- اینجا: یک آرایه بهعلاوهٔ گرادیانش بهعلاوهٔ Tensorهایی که از آنها آمده
- .grad
- گرادیان زیان نهایی نسبت به این Tensor
- unbroadcast
- جمع زدن یک گرادیان تا شکلی که از آن کشیده شده بود
unbroadcast(grad, shape) را بنویسید: grad را تا shape جمع بزنید. جمع و ضرب شما از قبل آن را فراخوانی میکنند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.