ضعف الملاءمة وزيادة الملاءمة
هذا هو التوتر المركزي في كل تعلم الآلة، والآن لديك الأدوات لرؤيته مباشرة. يمكن للنموذج أن يفشل بطريقتين متضادتين.
- ضعف الملاءمة: النموذج بسيط جدا لدرجة أنه لا يستطيع التقاط النمط. أداؤه ضعيف في كل من بيانات التدريب وبيانات الاختبار. فكر في رسم خط مستقيم عبر بيانات منحنية بوضوح.
- الإفراط في التخصيص: النموذج معقد للغاية ويحفظ بيانات التدريب، بما في ذلك الضجيج والسمات الغريبة فيها. يحقق نتائج ممتازة في التدريب ولكن نتائج ضعيفة في الاختبار، لأنه تعلم الأمثلة المحددة بدلا من القاعدة العامة.
decision tree بواسطة max_depth، وهو عدد طبقات الأسئلة المسموح بها:
shallow = DecisionTreeClassifier(max_depth=1, random_state=0) # too simple
deep = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimitedتستطيع شجرة A ذات العمق 1 طرح سؤال واحد فقط، لذا فهي مجبرة على أن تكون بدائية وتميل إلى نقص الملاءمة. الشجرة ذات العمق غير المحدود تستمر في التقسيم حتى تعزل صفوف التدريب، لذا يمكنها دفع دقة training إلى 1.0 مثالية بينما تؤدي بشكل أسوأ على صفوف test غير المرئية.
العلامة الواضحة على الإفراط في التخصيص هي gap: دقة التدريب أعلى بكثير من دقة الاختبار. إن المهارة الكاملة في ضبط النموذج هي إيجاد التعقيد المتوسط الذي يؤدي بشكل جيد على بيانات الاختبار، وهي الدرجة الوحيدة التي تهم.
سوف تقوم بتدريب كل من شجرة ضحلة وشجرة عميقة، وتسجيل دقة التدريب والاختبار لكل منهما، وحساب فجوة overfitting لكي تكون العلاقة واضحة في الأرقام.
تم إعداد مجموعة بيانات مشوشة وتقسيم تدريب/اختبار بالفعل. قم بتدريب shallow = DecisionTreeClassifier(max_depth=1, random_state=0) و deep = DecisionTreeClassifier(max_depth=None, random_state=0) على بيانات التدريب. سجل أربعة أرقام: shallow_train، shallow_test، deep_train، deep_test (الدقة على مجموعة المطابقة لكل شجرة). ثم قم بتعيين overfit_gap = deep_train - deep_test.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.