انهيار النمط، عن قصد
لماذا هذا مهم يبدو الفشل الأكثر شيوعا في GAN كأنه نجاح: كل عينة حادة ومقنعة، لكنها جميعا متطابقة تقريبًا. يسمى هذا mode collapse (كل كتلة هي "mode" للبيانات). لا يمكنك إصلاح ما لا يمكنك إحداثه، لذا هنا تقوم بإحداثه.
سبب حدوث ذلك: يحتاج G فقط إلى خداع D اليوم. إذا خدعت إحدى الكتل D بشكل أفضل، يضع G كل شيء هناك. يتعلم D أن تلك الكتلة مشبوهة، فينتقل G إلى أخرى، ويمكن للاثنين مطاردة بعضهما البعض حول الحلقة دون أن يقوم G بالتشتت أبدا.
يقومganlab.train(...) بتدريب نفس GAN كما في الدرس السابق مع أي من هذه الإعدادات: noise (عدد أرقام الضوضاء التي يحصل عليها G، 2 افتراضيا)، d_steps (خطوات D لكل خطوة G، 1)، g_lr و d_lr (1e-3 لكل منهما)، loss، smooth، instance_noise، spectral. تظهر التشغيلات المسجلة، ganlab.recorded()، بعض الإعدادات عبر 8 بذور.
Collapse تعني وجود كتل قليلة ونقاط حادة. المولد الذي يوزع النقاط في كل مكان يغطي كتل قليلة أيضاً، لكن هذا فشل مختلف: لم يتعلم الكتل على الإطلاق.
الكلمات والرموز في هذا الدرس
- GAN
- شبكة خصومية توليدية: مولد ومميز يتم تدريبهما ضد بعضهما البعض
- مولد (G)
- الشبكة التي تحول الضجيج إلى عينة
- نمط انهيار
- يولد المولد أنواعاً قليلة فقط من العينات، كل منها مقنع
- blobs مغطاة، الجودة
- حكم الحلقة: الكتل التي تزيد عن 2% من النقاط، وحصة النقاط في كل كتلة
ابحث عن الإعدادات التي تسبب انهيار GAN على البذرة 0: بحد أقصى 3 كتل مغطاة، وبجودة لا تقل عن 0.6. ضعها في settings. لإبقاء كل محاولة قصيرة، يقوم هذا الدرس بالتدريب لمدة 1000 خطوة بمعدل تعلم قدره 0.002 (معد مسبقا لك؛ الانهيار الذي يظهره هو نفسه عند 2000 خطوة). قم بتغيير إعدادات GAN الخاصة فقط (noise، d_steps حتى 3، loss، smooth، instance_noise، spectral)؛ تبقى البذرة والخطوات ومعدلات التعلم كما هي معطاة. ثم اضبط looks_like على الحرف الذي يصف الانهيار.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.