سرفصل‌ها درس 175 از 246 · ماژول 15: فشردن، بازسازی، تولید (خودرمزگذارها و VAEها)
ماژول 15: فشردن، بازسازی، تولید (خودرمزگذارها و VAEها)

دروازه: VAEای که یک رقم می‌کشد (هوش مصنوعی خاموش)

چرا مهم است این شکست نامی دارد، فروپاشی پسین، و به اندازه‌ای رایج است که هر مدل مولدی که بعداً می‌سازید می‌تواند به نسخه‌ای از آن برخورد کند. اینجا آن را به‌تنهایی عیب‌یابی و درست می‌کنید.

قواعد دروازه: دستیار هوش مصنوعی خاموش. کد آغازین را اجرا کنید و ببینید VAE خراب چه می‌سازد. می‌توانید هر چند گونه که دوست دارید با gen.train_vae(...) آموزش دهید و آن‌ها را با gen.judge، active_units() و خطای بازسازی داوری کنید.

سه تنظیم وجود دارد، هر کدام با دلیلی برای امتحانش:

  • weight: شدت کشش 2 (KL)، به‌طور پیش‌فرض 1.
  • warmup_steps: با وزن 0 شروع کنید و آن را در این تعداد گام به‌طور یکنواخت تا weight بالا ببرید (آموزش 600 گام است).
  • free_bits: کفی برای هر عدد کد. عددی که KL آن زیر کف است کف را می‌پردازد و هیچ هلی به سوی مرکز نمی‌گیرد، پس مدل می‌تواند از عهدهٔ استفاده از آن برآید.

آنلاین خواهید خواند که گرم کردن وزن راه‌حل استاندارد است. بفهمید آیا اینجا هم هست.

بررسی راه‌حل شما را روی بذری تازه دوباره آموزش می‌دهد و فقط وقتی قبولش می‌کند که هر چهار برقرار باشند: خطای بازسازی آزمون زیر 0.035، دست‌کم 3 عدد کد فعال، رقم‌های تازه با نزدیکی حداکثر 1.33 و تنوع دست‌کم 3.0.

واژه‌ها و نمادهای این درس
کد (نهفته)
چند عددی که رمزگذار از یک تصویر می‌سازد
VAE
خودرمزگذار تغییراتی: خودرمزگذاری که کدهایش کشیده می‌شوند تا N(0, 1) را پر کنند، تا کدهای تصادفی به تصاویر تازه رمزگشایی شوند
mu، logvar
مرکز و لگاریتم مربع پراکندگی یک عدد کد در یک VAE
نزدیکی، تنوع
داور دوره: فاصله تا نزدیک‌ترین رقم واقعی، و بیت‌های پخش روی ده رقم
فروپاشی پسین
VAEای که همهٔ کدهایش N(0, 1) می‌شوند و هیچ چیز حمل نمی‌کنند؛ یک تصویر میانگین می‌کشد
نوبت شما

diagnosis را برابر یک حرف و fix را برابر دیکشنری‌ای از تنظیم‌ها برای gen.train_vae قرار دهید که فروپاشی را درمان کند.

هوش مصنوعی خاموش: در این یکی مربی، راهنمایی یا راه‌حل کاملی نیست. فقط فکر خودتان.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.