سرفصل‌ها درس 57 از 246 · ماژول 4: موتور autograd خودتان
ماژول 4: موتور autograd خودتان

گذر رو به عقب وقتی شکل‌ها کشیده می‌شوند (پخش)

چرا مهم است این رایج‌ترین اشکال autograd در جهان است. بایاسی با شکل (4,) که به دسته‌ای با شکل (32, 4) اضافه شده 32 بار به کار رفته، پس گرادیانش باید همهٔ 32 سهم را جمع کند.

اعداد کوچک

out = X + b با X (3, 2) و b (2,). گرادیان رسیده (3, 2) است. b در هر 3 ردیف کپی شده بود، پس هر کپی سهمی گرفت: گرادیان b جمع روی ردیف‌هاست، با شکل (2,). اگر آرایهٔ (3, 2) را برگردانید، شکل‌ها دیگر جور نیستند، یا بدتر، پخش آن را پنهان می‌کند و اعداد 3 برابر اشتباه‌اند.

قاعده: هر جا پخش جهتی را اضافه کرد، آن را با جمع حذف کنید؛ هر جا یک جهت با اندازهٔ 1 را کشید، آن را جمع بزنید اما با اندازهٔ 1 نگه دارید.

خلاصه کپی‌شده در رو به جلو یعنی جمع‌شده در رو به عقب.

واژه‌ها و نمادهای این درس
autograd
گرادیان‌های خودکار: شما گذر رو به جلو را می‌نویسید، موتور گذر رو به عقب را انجام می‌دهد
Tensor
اینجا: یک آرایه به‌علاوهٔ گرادیانش به‌علاوهٔ Tensorهایی که از آن‌ها آمده
.grad
گرادیان زیان نهایی نسبت به این Tensor
unbroadcast
جمع زدن یک گرادیان تا شکلی که از آن کشیده شده بود
نوبت شما

unbroadcast(grad, shape) را بنویسید: grad را تا shape جمع بزنید. جمع و ضرب شما از قبل آن را فراخوانی می‌کنند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.