افزودن نویز، گام به گام
چرا مهم است مولدهای تصویری که پشت هنر هوش مصنوعی امروز هستند از نویز رو به عقب کار میکنند. یک شبکه برای یاد گرفتن برداشتن نویز، اول باید دقیقاً ببیند نویز چگونه اضافه شده است. آن نیمهٔ رو به جلو حساب محض است و میانبری دارد که آموزش را ممکن میکند.
یک نقطهٔ تمیز x0 (یک مقدار پیکسل، یا یک نقطه در دو بعد) بگیرید. در هر یک از T = 100 گام، آن را کمی کوچک کنید و کمی نویز تازه اضافه کنید:
x_t = sqrt(1 - beta_t) x_(t-1) + sqrt(beta_t) eps، با eps کشیدهشده از N(0, 1)
فهرست beta_0 ... beta_99 زمانبندی نویز است. صحنه را تماشا کنید: یک مارپیچ از نقطهها در یک ابر گرد از نویز حل میشود.
میانبر
کوچک کردن و افزودن نویز زنگولهای بارها و بارها همان انجام یک باره با مجموعهاست. abar_t را حاصلضرب همهٔ ضریبهای (1 - beta) تا گام t بنویسید. آنگاه
فرمول: x_t = sqrt(abar_t) x0 + sqrt(1 - abar_t) eps
یکجا: سیگنال باقیمانده sqrt(abar_t) است، پراکندگی نویز sqrt(1 - abar_t). آموزش میتواند فوراً به هر گامی بپرد، به جای اینکه تا آنجا راه برود.
اعداد کوچک
دو گام با beta = 0.1 هر کدام: abar = 0.9 x 0.9 = 0.81. از x0 = 1 سیگنال باقیمانده sqrt(0.81) = 0.9 و پراکندگی نویز sqrt(0.19) = 0.44 است. با راه رفتن: پس از گام 1، 0.949 x 1 بهعلاوهٔ نویزی با پراکندگی 0.316؛ پس از گام 2، همه چیز دوباره به اندازهٔ 0.949 کوچک میشود و نویز تازهای با پراکندگی 0.316 میپیوندد. پراکندگیها بهصورت مربعی جمع میشوند: 0.949^2 x 0.1 + 0.1 = 0.19. همان پاسخ.
واژهها و نمادهای این درس
- زمانبندی نویز (beta)
- اینکه در هر گام چه مقدار نویز تازه آمیخته میشود
- abar
- سهم سیگنال اصلی که پس از تعدادی گام میماند (ریشهٔ دومش در x0 ضرب میشود)
- x0، x_t
- دادهٔ تمیز، و همان داده پس از t گام نویز
- eps
- نویز زنگولهای که اضافه شد؛ شبکه پیشبینی آن را یاد میگیرد
walk(x0, t, beta, rng) (هر بار یک گام، t + 1 گام از گام 0 تا گام t) و jump(x0, t, abar, eps) (میانبر) را بنویسید. سپس 20000 کپی از نقطهٔ (1.0, -0.5) را به هر دو روش تا گام 40 نویزدار کنید و stats را با میانگین و پراکندگی (برای هر مختص) هر نسخه، کنار آنچه زمانبندی میگوید باید باشند، پر کنید.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.