بوابة: ثلاث عمليات مكسورة غير مرئية (AI off)
لماذا هذا مهم التشخيص بمفردك، مع ميزانية، هي المهارة التي يهدف إليها هذا النموذج
AI tutor. ثلاث جولات، كل واحدة بها خطأ واحد من أي مكان في هذه الوحدة. هذه جولات جديدة، وليست حالات التدريب: بذور أخرى، وحجم دفعة آخر، وأخطاء بأحجام أخرى، لذا فإن الأرقام التي تتذكرها من التدريب لن تتطابق. ميزانيتك هي 9 probes في المجمل (تدريب حالة مغلقة يحسب كواحد)، تُحسب عبر كل جولة منذ فتح الصفحة (تكرار probe على نفس الحالة مجاني؛ التشخيص الخاطئ أو الإصلاح الذي لا يعمل يكلف probe واحد).
كل حالة أدناه هي عملية تدريب تحتوي على عطل واحد مزروع فيها. لكل حالة: استهلك المجسات للعثور على العطل، ثم اكتب إصلاحا كتغييرات في config. الأعطال في هذا الدرس: any fault from this module. عدد أقل من المجسات هو الأفضل؛ نادرا ما يحتاج المشخص الجيد لأكثر من اثنين لكل حالة.
| Probe | ما يخبرك به |
|---|---|
loss_curve(c) | خسارة التدريب كل 50 خطوة ودقة التحقق النهائية. انظر دائما أولا. |
loss_at_init(c) | Loss قبل التدريب. يجب أن يكون النموذج الجديد المكون من 10 فئات قريبا من ln(10) = 2.30. |
overfit_one_batch(c) | هل يمكنه حفظ 32 مثالا؟ الإعداد السليم يحصل على ما يقارب 0. |
grad_norms(c) | حجم Gradient لكل مصفوفة weight في البداية. الصفر يعني أنه لا يمكن تعلم أي شيء. |
update_ratio(c) | حجم خطوة SGD العادية بالنسبة لحجم الوزن. القيمة الصحية هي حوالي 0.001 إلى 0.1 (قاعدة عامة لـ SGD العادية؛ يوضح Module 14 لماذا يختلف Adam). |
act_stats(c) | التنشيطات المخفية: المتوسط، أكبر قيمة، حصة الوحدات الميتة. |
lr_schedule(c) | معدل التعلم عند الخطوات 0، 50، 100 وما إلى ذلك. |
batch_labels(c) | التسميات في الدفعات الأولى. |
overlap(c) | كم عدد أمثلة التحقق التي تظهر أيضاً في التدريب. |
الكلمات والرموز في هذا الدرس
- probe
- قياس سريع لعملية تشغيل، مثل أحجام gradient أو الوحدات غير النشطة
املأ diagnosis (من الحالة إلى اسم الخطأ) و fixes (من الحالة إلى قاموس تغييرات الإعدادات) للحالات A و B و C. يجب أن يقوم الإصلاح بإزالة الخطأ والتدريب حتى تصل دقة التحقق إلى 90% على الأقل.
إيقاف تشغيل الذكاء الاصطناعي: لا يوجد مدرس أو تلميحات أو حلول محلولة لهذه المسألة. اعتمد على تفكيرك الخاص فقط.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.