Lehrplan Lektion 96 von 250 · Deine ersten Machine Learning Modelle
Deine ersten Machine Learning Modelle

Random Forests: Die Weisheit der Menge

Ein einzelner decision tree ist leicht zu verstehen, aber zerbrechlich. Er überanpasst schnell und seine Vorhersagen können sich bei kleinen Datenänderungen stark ändern. Ein random forest behebt dies mit einer einfachen, starken Idee: trainiere viele verschiedene Bäume und lass sie abstimmen.

Jeder Baum im Wald wird auf einer leicht anderen Zufallsstichprobe der Daten trainiert und betrachtet bei jedem Split eine zufällige Teilmenge von Merkmalen. So ist jeder Baum ein wenig anders und macht andere Fehler. Wenn du ihre Stimmen mitteln, neigen die einzelnen Fehler dazu, sich gegenseitig aufzuheben und die zufälligen Eigenheiten verschwinden. Das ist die Weisheit der Masse: eine Gruppe von vielfältigen, unvollkommenen Ratern schlägt oft jeden einzelnen Experten.

from sklearn.ensemble import RandomForestClassifier

forest = RandomForestClassifier(n_estimators=50, random_state=0)
forest.fit(X_train, y_train)

n_estimators ist die Anzahl der Bäume zum Wachsen (50 hier). Mehr Bäume helfen meistens ein wenig, bis zu einem gewissen Punkt, auf Kosten der Geschwindigkeit. Wie immer hält random_state=0 das Ergebnis reproduzierbar, da die Stichprobe des Waldes zufällig ist.

Der Hauptvorteil: ein Wald generalisiert typischerweise besser als ein einzelner Baum, was einen höheren Score auf dem zurückbehaltenen Testset bedeutet. Es ist eines der zuverlässigsten fertigen Modelle und eine großartige Standardoption.

Du wirst einen einfachen decision tree und einen random forest auf demselben split trainieren, beide auf dem test set bewerten und bestätigen, dass der forest mindestens genauso gut abschneidet.

Du bist dran

Ein Datensatz und ein Train/Test-Split werden vorbereitet. Trainiere tree = DecisionTreeClassifier(max_depth=3, random_state=0) und forest = RandomForestClassifier(n_estimators=50, random_state=0) auf den Trainingsdaten. Bewerte beide auf dem test-Set mit accuracy_score und speichere die Ergebnisse in tree_acc und forest_acc.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.