Thiếu khớp và quá khớp
Đây là căng thẳng trung tâm của toàn bộ học máy, và giờ bạn có công cụ để nhìn thấy nó trực tiếp. Một mô hình có thể thất bại theo hai cách trái ngược.
- Thiếu khớp (underfitting): mô hình quá đơn giản để nắm được khuôn mẫu. Nó làm kém trên cả dữ liệu huấn luyện lẫn dữ liệu kiểm tra. Hãy nghĩ tới việc vẽ một đường thẳng qua dữ liệu rõ ràng là cong.
- Quá khớp (overfitting): mô hình quá phức tạp và học thuộc dữ liệu huấn luyện, kể cả nhiễu và những nét kỳ quặc của nó. Nó đạt điểm tuyệt vời khi huấn luyện nhưng kém khi kiểm tra, vì nó đã học các ví dụ cụ thể thay vì quy tắc chung.
Độ phức tạp của một cây quyết định được điều khiển bởi max_depth, số tầng câu hỏi nó được phép có:
shallow = DecisionTreeClassifier(max_depth=1, random_state=0) # too simple
deep = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimitedMột cây độ sâu 1 chỉ được hỏi đúng một câu, nên nó buộc phải thô sơ và có xu hướng thiếu khớp. Một cây không giới hạn độ sâu cứ tách cho tới khi cô lập được các hàng huấn luyện, nên nó có thể đẩy độ chính xác huấn luyện lên 1.0 hoàn hảo trong khi làm tệ hơn trên các hàng kiểm tra chưa thấy.
Dấu hiệu tố cáo của quá khớp là một khoảng cách: độ chính xác huấn luyện cao hơn nhiều so với độ chính xác kiểm tra. Toàn bộ nghề tinh chỉnh một mô hình là tìm độ phức tạp ở giữa làm tốt trên dữ liệu kiểm tra, điểm số duy nhất có giá trị.
Bạn sẽ huấn luyện cả một cây nông lẫn một cây sâu, ghi lại độ chính xác huấn luyện và kiểm tra cho mỗi cây, và tính khoảng cách quá khớp để mối quan hệ hiện ra ngay trong các con số.
Một tập dữ liệu nhiễu và một cách chia train/test đã được chuẩn bị. Huấn luyện shallow = DecisionTreeClassifier(max_depth=1, random_state=0) và deep = DecisionTreeClassifier(max_depth=None, random_state=0) trên dữ liệu huấn luyện. Ghi lại bốn con số: shallow_train, shallow_test, deep_train, deep_test (độ chính xác trên tập tương ứng cho mỗi cây). Rồi đặt overfit_gap = deep_train - deep_test.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.