سرفصل‌ها درس 167 از 246 · ماژول 15: فشردن، بازسازی، تولید (خودرمزگذارها و VAEها)
ماژول 15: فشردن، بازسازی، تولید (خودرمزگذارها و VAEها)

فشردن و بازسازی (خودرمزگذارها)

چرا مهم است هر شبکه‌ای تا اینجا یک تصویر را به یک برچسب تبدیل می‌کرد. این ماژول تصاویر را به تصاویر تازه تبدیل می‌کند. گام اول شبکه‌ای است که یک تصویر را در چند عدد می‌فشارد و آن را از روی آن‌ها دوباره می‌سازد. آن چند عدد جایی‌اند که تصاویر تازه از آن خواهند آمد.

یک خودرمزگذار دو شبکه پشت به پشت است. رمزگذار یک رقم 64 پیکسلی را در 16 عدد، یعنی کدش، می‌فشارد. رمزگشا 64 پیکسل را از آن 16 عدد دوباره می‌سازد. آموزش یک چیز می‌خواهد: تصویر بازسازی‌شده باید با اصل جور باشد.

هیچ‌کس به آن نمی‌گوید 16 عدد چه معنایی باید داشته باشند. باید خودش توصیفی کوتاه از یک رقم پیدا کند، چون 16 عدد نمی‌توانند صرفاً 64 پیکسل را کپی کنند.

اعداد کوچک

یک رقم 64 پیکسلی به 16 عدد تبدیل می‌شود: فشردنی 4 به 1. اگر پیکسل‌های بازسازی‌شده به‌طور میانگین 0.09 خطا داشته باشند، مربع خطا برای هر پیکسل حدود 0.008 است. این اندازهٔ خطایی است که به آن می‌رسید.

زیان چگونه سنجیده می‌شود

هر پیکسل عددی از 0 (خالی) تا 1 (جوهر کامل) است، پس آخرین لایهٔ رمزگشا برای هر پیکسل یک امتیاز می‌دهد و sigmoid آن را به 0..1 تبدیل می‌کند. زیان همان آنتروپی متقاطع دودویی ماژول 3 است، جمع‌شده روی 64 پیکسل و میانگین‌گیری‌شده روی دسته. موتور دوره اکنون آن را به‌صورت E.bce_with_logits(scores, pictures) دارد: امتیازها را پیش از sigmoid می‌گیرد، پس هرگز از 0 لگاریتم نمی‌گیرد.

خروجی همچنین تصاویر را به‌صورت متن چاپ می‌کند: gen.show(pictures) هر رقم 8x8 را با سایه‌هایی از خالی تا جوهر کامل چاپ می‌کند.

واژه‌ها و نمادهای این درس
خودرمزگذار
یک رمزگذار که یک تصویر را در چند عدد می‌فشارد و یک رمزگشا که آن را دوباره می‌سازد
کد (نهفته)
چند عددی که رمزگذار از یک تصویر می‌سازد
mu، logvar
مرکز و لگاریتم مربع پراکندگی یک عدد کد در یک VAE
نوبت شما

encode(x) را بنویسید: یک لایهٔ متراکم با ReLU (P['e1'])، سپس یک لایهٔ متراکم به 16 عدد (P['e2']). decode(code) را به همان شکل با P['d1']، ReLU و P['d2'] بنویسید که 64 امتیاز پیش از sigmoid را برمی‌گرداند. حلقهٔ آموزش برایتان نوشته شده است. به خطای بازسازی آزمون زیر 0.012 برای هر پیکسل برسید.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.