المنهج الدراسي الدرس 175 من 246 · الوحدة 15: الضغط، إعادة البناء، التوليد (autoencoders و VAEs)
الوحدة 15: الضغط، إعادة البناء، التوليد (autoencoders و VAEs)

البوابة: نموذج VAE الذي يرسم رقماً واحداً (إيقاف AI)

لماذا يهم ذلك لهذا الفشل اسم، posterior collapse، وهو شائع لدرجة أن كل نموذج توليدي تبنيه لاحقاً يمكن أن يواجه نسخة منه. هنا تقوم بتشخيصه وإصلاحه بمفردك.

قواعد

Gate: إيقاف معلم الذكاء الاصطناعي. قم بتشغيل starter وانظر إلى ما ينتجه VAE المعطوب. يمكنك تدريب أي عدد من المتغيرات التي تريدها باستخدام gen.train_vae(...) وتقييمها باستخدام gen.judge و active_units() و rebuild error.

توجد ثلاث إعدادات، ولكل منها سبب لتجربتها:

  • weight: قوة السحب 2 (الـ KL)، القيمة الافتراضية هي 1.
  • warmup_steps: ابدأ بوزن 0 وارفع قيمته بالتساوي إلى weight عبر هذا العدد من الخطوات (التدريب هو 600 خطوة).
  • free_bits: طابق لكل رقم كود. الرقم الذي تكون قيمة KL الخاصة به أقل من الطابق يدفع قيمة الطابق ولا يحصل على أي دفع نحو المركز، لذا يمكن للنموذج تحمل استخدامه.

ستقرأ عبر الإنترنت أن تسخين الوزن هو الإصلاح القياسي. اكتشف ما إذا كان هذا هو الحال هنا.

يتحقق الاختبار من إصلاحك على بذرة جديدة ويمرره فقط إذا تحقق أربعة شروط: خطأ إعادة بناء الاختبار أقل من 0.035، و3 أرقام كود نشطة على الأقل، وأرقام جديدة بقرب لا يتجاوز 1.33 وتنوع لا يقل عن 3.0.

الكلمات والرموز في هذا الدرس
كود (كامِن)
الأرقام القليلة التي ينتجها encoder من صورة واحدة
VAE
variational autoencoder: هو autoencoder يتم سحب الرموز الخاصة به لملء N(0, 1)، بحيث يتم فك تشفير الرموز العشوائية إلى صور جديدة
mu, logvar
المركز ولوغاريتم التباين المربع لرقم كود في VAE
القرب، التنوع
حكم الدورة: المسافة إلى أقرب رقم حقيقي، وبتات الانتشار عبر الأرقام العشرة
انهيار لاحق
a VAE حيث تصبح جميع الأكواد N(0, 1) ولا تحمل أي شيء؛ إنه يرسم صورة متوسطة واحدة
دورك

اجعل diagnosis حرفا واحدا وfix قاموسا لإعدادات gen.train_vae التي تعالج الانهيار.

إيقاف تشغيل الذكاء الاصطناعي: لا يوجد مدرس أو تلميحات أو حلول محلولة لهذه المسألة. اعتمد على تفكيرك الخاص فقط.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.