Random Forests: Kebijaksanaan Massa
Satu decision tree mudah dimengerti tapi rapuh, ia mudah overfitting dan prediksinya bisa berubah jauh dengan perubahan data kecil. random forest memperbaiki ini dengan ide sederhana yang kuat: latih banyak pohon berbeda dan biarkan mereka melakukan voting.
Setiap pohon di hutan tumbuh dari sampel data acak yang sedikit berbeda dan mempertimbangkan subset fitur acak di setiap split. Jadi setiap pohon sedikit berbeda dan membuat kesalahan yang berbeda. Saat kamu merata-ratakan suara mereka, kesalahan individu cenderung saling meniadakan dan keunikan acak akan hilang. Inilah kebijaksanaan orang banyak: sekelompok penebak yang beragam dan tidak sempurna seringkali mengalahkan pakar tunggal mana pun.
from sklearn.ensemble import RandomForestClassifier
forest = RandomForestClassifier(n_estimators=50, random_state=0)
forest.fit(X_train, y_train)n_estimators adalah jumlah pohon yang akan ditanam (50 di sini). Lebih banyak pohon biasanya membantu sedikit, sampai batas tertentu, dengan mengorbankan kecepatan. Seperti biasa, random_state=0 menjaga hasil tetap dapat direproduksi karena pengambilan sampel hutan bersifat acak.
Keuntungan utamanya: sebuah hutan biasanya generalizes better daripada satu pohon saja, artinya skor lebih tinggi pada held-out test set. Ini adalah salah satu model off-the-shelf yang paling bisa diandalkan, dan pilihan default yang bagus untuk digunakan.
Kamu akan melatih satu decision tree biasa dan satu random forest pada split yang sama, memberi skor keduanya pada test set, dan memastikan forest bekerja setidaknya sama baiknya.
Dataset dan split train/test sudah disiapkan. Latih tree = DecisionTreeClassifier(max_depth=3, random_state=0) dan forest = RandomForestClassifier(n_estimators=50, random_state=0) pada data training. Skor keduanya pada set test dengan accuracy_score, simpan hasilnya di tree_acc dan forest_acc.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.