المنهج الدراسي الدرس 239 من 246 · الوحدة 23: استوديو المشروع النهائي: بطاقة نموذج يمكنك تشغيله
الوحدة 23: استوديو المشروع النهائي: بطاقة نموذج يمكنك تشغيله

ابحث عن bug المزروعة وقم بإصلاحها

لماذا هذا مهم أسوأ الأخطاء في تعلم الآلة لا تسبب توقف البرنامج. هي تتدرب بشكل أسوأ قليلاً مما يجب، ولا يلاحظ أحد ذلك. فحص gradient يجدها في ثوانٍ.

أعاد زميل

A كتابة كود gradient الخاص بالاستوديو لجعله أسرع: suspect_grads. لا يمكنك قراءته، كما يحدث غالباً في العمل الحقيقي (مكتبة، أو فرع زميل، أو كود مولد). عند التدريب عليه، لا يزال النموذج الأساسي الخاص بك يتعلم: في خطة الدورة الافتراضية، درجة اللغة أسوأ بنحو 0.05 فقط، وفي الصور، مع seed 0، حتى أنها تحصل على درجة أعلى. كلاهما يقع ضمن ما يسميه القارئ غير الحذر noise. هناك شيء خاطئ فيه.

تحقّق منه كما علّمت الوحدة 3: ادفع وزناً واحداً بمقدار صغير، وقِس التغيّر في الخسارة، وقارنه بالميل الذي يدّعيه الكود. افعل ذلك لـ 5 عناصر من كل من W1 وb1 وW2 وb2 على نموذج صغير (عرض 8، دفعة من 16)، مختارة من بين العناصر التي ليس ميلها المُدّعى صفراً (مع مدخلات one-hot، معظم ميول W1 تساوي 0 تماماً، والتحقق هناك لا يثبت شيئاً). قِس الخسارة بـ float64 باستخدام studio.loss64 ودفعة قدرها 1e-4؛ واعتبر أي خطأ نسبي فوق 0.01 خاطئاً.

الكلمات والرموز في هذا الدرس
baseline
التشغيل البسيط الذي يتم قياس كل تغيير مقابلها، عبر نفس البذور
تحقق من التدرج
مقارنة الميل الذي يحسبه الكود الخاص بك مع الميل المقاس عن طريق تحريك وزن
دورك

اكتب check(grad_fn) تعيد، لكل من 'W1' و 'b1' و 'W2' و 'b2'، أكبر خطأ نسبي عبر 5 مدخلات. اضبط wrong على الأسماء المرتبة التي يتجاوز خطؤها 0.01، واضبط cause على جملة واحدة: ما الذي في التمريرة الخلفية يقع حيث توجد التدرجات الخاطئة، وما الذي تم إسقاطه هناك على الأرجح. ثم اكتب fixed_grads بنفسك (التمريرة الأمامية هي m.forward؛ والخسارة وميلها هما studio.loss_and_dout). ثم درب النموذج الأساسي (seed 0) مع كل منهما واطبع كلا النتيجتين.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.