البوابة: نموذج VAE الذي يرسم رقماً واحداً (إيقاف AI)
لماذا يهم ذلك لهذا الفشل اسم، posterior collapse، وهو شائع لدرجة أن كل نموذج توليدي تبنيه لاحقاً يمكن أن يواجه نسخة منه. هنا تقوم بتشخيصه وإصلاحه بمفردك.
Gate: إيقاف معلم الذكاء الاصطناعي. قم بتشغيل starter وانظر إلى ما ينتجه VAE المعطوب. يمكنك تدريب أي عدد من المتغيرات التي تريدها باستخدام gen.train_vae(...) وتقييمها باستخدام gen.judge و active_units() و rebuild error.
توجد ثلاث إعدادات، ولكل منها سبب لتجربتها:
weight: قوة السحب 2 (الـ KL)، القيمة الافتراضية هي 1.warmup_steps: ابدأ بوزن 0 وارفع قيمته بالتساوي إلىweightعبر هذا العدد من الخطوات (التدريب هو 600 خطوة).free_bits: طابق لكل رقم كود. الرقم الذي تكون قيمة KL الخاصة به أقل من الطابق يدفع قيمة الطابق ولا يحصل على أي دفع نحو المركز، لذا يمكن للنموذج تحمل استخدامه.
ستقرأ عبر الإنترنت أن تسخين الوزن هو الإصلاح القياسي. اكتشف ما إذا كان هذا هو الحال هنا.
يتحقق الاختبار من إصلاحك على بذرة جديدة ويمرره فقط إذا تحقق أربعة شروط: خطأ إعادة بناء الاختبار أقل من 0.035، و3 أرقام كود نشطة على الأقل، وأرقام جديدة بقرب لا يتجاوز 1.33 وتنوع لا يقل عن 3.0.
الكلمات والرموز في هذا الدرس
- كود (كامِن)
- الأرقام القليلة التي ينتجها encoder من صورة واحدة
- VAE
- variational autoencoder: هو autoencoder يتم سحب الرموز الخاصة به لملء N(0, 1)، بحيث يتم فك تشفير الرموز العشوائية إلى صور جديدة
- mu, logvar
- المركز ولوغاريتم التباين المربع لرقم كود في VAE
- القرب، التنوع
- حكم الدورة: المسافة إلى أقرب رقم حقيقي، وبتات الانتشار عبر الأرقام العشرة
- انهيار لاحق
- a VAE حيث تصبح جميع الأكواد N(0, 1) ولا تحمل أي شيء؛ إنه يرسم صورة متوسطة واحدة
اجعل diagnosis حرفا واحدا وfix قاموسا لإعدادات gen.train_vae التي تعالج الانهيار.
إيقاف تشغيل الذكاء الاصطناعي: لا يوجد مدرس أو تلميحات أو حلول محلولة لهذه المسألة. اعتمد على تفكيرك الخاص فقط.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.