سرفصل‌ها درس 45 از 246 · ماژول 3: از نورون تا MLP
ماژول 3: از نورون تا MLP

هر منحنی‌ای از برآمدگی‌ها (تقریب جهانی)

چرا مهم است می‌گویند شبکه‌ای با یک لایهٔ پنهان می‌تواند بر هر منحنی‌ای برازش کند. اینجا با ساختن آن از برآمدگی‌ها به دست خودتان، چرایی‌اش را می‌بینید.

آن را ببینید

یک sigmoid بسیار تند یک پله است: در چپ 0، در راست 1. دو پله، یکی رو به بالا در left و یکی رو به پایین در right، یک برآمدگی می‌سازند: height * (sigmoid(s (x - left)) - sigmoid(s (x - right))). این دو نورون پنهان و یک وزن خروجی است. برآمدگی‌ها را کنار هم بگذارید، هر کدام به بلندی منحنی در جای خودش، و هر منحنی‌ای را مثل یک نمودار میله‌ای ترسیم می‌کنید. نورون‌های بیشتر، میله‌های باریک‌تر، برازش نزدیک‌تر.

تقریب جهانی: یک لایهٔ پنهان با نورون‌های کافی می‌تواند هر قدر بخواهید به هر منحنی معقولی نزدیک شود. هیچ چیزی دربارهٔ اینکه پیدا کردن آن وزن‌ها با آموزش چقدر آسان است نمی‌گوید.

خلاصه دو نورون یک برآمدگی می‌سازند؛ برآمدگی‌های کافی هر چیزی را می‌سازند.

واژه‌ها و نمادهای این درس
نورون
w . x + b، سپس یک فعال‌سازی
وزن‌ها (w, W)، بایاس (b)
اعدادی که یک نورون یاد می‌گیرد؛ بایاس خروجی‌اش را جابه‌جا می‌کند
sigmoid
1 / (1 + exp(-z)): هر عددی را در بازهٔ 0 تا 1 می‌فشارد
لایهٔ پنهان
لایه‌ای میان ورودی و خروجی که ویژگی‌های تازه می‌سازد
نوبت شما

bump(x, left, right, height, s=60) را بنویسید، سپس approx(x, f, n_bumps) را که 0 تا pi را به n_bumps تکهٔ برابر تقسیم می‌کند و برای هر تکه یک برآمدگی اضافه می‌کند، هر کدام با بلندی f در وسط تکه‌اش. با 10 برآمدگی (20 نورون)، میانگین مربع خطا در برابر sin روی 0 تا pi باید زیر 0.01 باشد.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.