Rừng ngẫu nhiên: Trí tuệ đám đông
Một cây quyết định đơn lẻ dễ hiểu nhưng mong manh, nó dễ quá khớp và các dự đoán của nó có thể dao động mạnh khi dữ liệu thay đổi chút ít. Một rừng ngẫu nhiên (random forest) sửa điều này bằng một ý tưởng đơn giản, mạnh mẽ: huấn luyện nhiều cây khác nhau và để chúng bỏ phiếu.
Mỗi cây trong rừng được trồng trên một mẫu ngẫu nhiên hơi khác của dữ liệu và xét một tập con đặc trưng ngẫu nhiên ở mỗi lần tách. Nên mỗi cây hơi khác một chút và mắc những lỗi khác nhau. Khi bạn lấy trung bình phiếu của chúng, các lỗi riêng lẻ có xu hướng triệt tiêu nhau và những nét ngẫu nhiên bị cuốn trôi. Đây là trí tuệ đám đông: một nhóm người đoán đa dạng, không hoàn hảo thường đánh bại bất kỳ chuyên gia đơn lẻ nào.
from sklearn.ensemble import RandomForestClassifier
forest = RandomForestClassifier(n_estimators=50, random_state=0)
forest.fit(X_train, y_train)n_estimators là số cây cần trồng (ở đây là 50). Nhiều cây hơn thường giúp một chút, tới một mức nào đó, đổi lại là tốc độ. Như mọi khi, random_state=0 giữ kết quả tái lập được vì việc lấy mẫu của rừng là ngẫu nhiên.
Lợi ích nổi bật: một rừng thường tổng quát hóa tốt hơn một cây đơn lẻ, nghĩa là điểm cao hơn trên tập kiểm tra được giữ lại. Nó là một trong những mô hình dùng ngay đáng tin cậy nhất, và là một lựa chọn mặc định tuyệt vời.
Bạn sẽ huấn luyện một cây quyết định trơn và một rừng ngẫu nhiên trên cùng một cách chia, chấm điểm cả hai trên tập kiểm tra, và xác nhận rừng làm ít nhất là tốt bằng.
Một tập dữ liệu và một cách chia train/test đã được chuẩn bị. Huấn luyện tree = DecisionTreeClassifier(max_depth=3, random_state=0) và forest = RandomForestClassifier(n_estimators=50, random_state=0) trên dữ liệu huấn luyện. Chấm điểm cả hai trên tập kiểm tra bằng accuracy_score, lưu kết quả vào tree_acc và forest_acc.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.