کمبرآوردی و بیشبرآوردی
این تنش مرکزی در تمام یادگیری ماشین است و اکنون ابزارهایی در اختیار دارید تا آن را مستقیماً ببینید. یک مدل میتواند به دو طریق متضاد شکست بخورد.
- کمآموزی (Underfitting): مدل بیش از حد ساده است و نمیتواند الگو را تشخیص دهد. در هر دو دادههای آموزشی و آزمون عملکرد ضعیفی دارد. تصور کنید خطی مستقیم را از میان دادههایی که آشکارا منحنی هستند بکشید.
- فراآموزی (Overfitting): مدل بیش از حد پیچیده است و دادههای آموزشی، از جمله نویز و ویژگیهای خاص آن، را حفظ میکند. عملکرد آن در دادههای آموزشی عالی اما در دادههای آزمون ضعیف است، زیرا به جای یادگیری قاعده کلی، مثالهای خاص را یاد گرفته است.
پیچیدگی یک درخت تصمیم توسط max_depth، تعداد لایههای پرسشی که به آن اجازه داده میشود:
shallow = DecisionTreeClassifier(max_depth=1, random_state=0) # too simple
deep = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimitedیک درخت با عمق ۱ فقط میتواند یک سؤال بپرسد، بنابراین مجبور است کلی و سطحی باشد و تمایل به کمآموزی (underfit) دارد. یک درخت با عمق نامحدود به تقسیمبندی ادامه میدهد تا اینکه سطرهای آموزشی را جدا کند، بنابراین میتواند دقت آموزش را به ۱.۰ کامل برساند، در حالی که در سطرهای آزمون ندیدهشده عملکرد بدتری دارد.
نشانه آشکار ابرمتناسبسازی، یک شکاف است: دقت آموزش بسیار بالاتر از دقت آزمون. کل هنر تنظیم مدل، یافتن پیچیدگی میانی است که در دادههای آزمون عملکرد خوبی داشته باشد، که این تنها نمرهای است که اهمیت دارد.
شما هم یک درخت کمعمق و هم یک درخت عمیق را آموزش میدهید، دقت آموزش و تست را برای هر کدام ثبت میکنید و فاصله اوریفیتینگ را محاسبه میکنید تا این رابطه درست در اعداد نمایان شود.
یک مجموعه داده نویزدار و تقسیمبندی آموزش/آزمون از پیش آماده شدهاند. آموزش shallow = DecisionTreeClassifier(max_depth=1, random_state=0) و deep = DecisionTreeClassifier(max_depth=None, random_state=0) روی دادههای آموزشی. چهار عدد را ثبت کنید: shallow_train, shallow_test, deep_train, deep_test (دقت روی مجموعهٔ تطبیق برای هر درخت). سپس تنظیم کنید overfit_gap = deep_train - deep_test.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.