Lehrplan Lektion 95 von 250 · Deine ersten Machine Learning Modelle
Deine ersten Machine Learning Modelle

Unteranpassung und Überanpassung

Dies ist die zentrale Spannung in allem Machine Learning, und jetzt hast du die Werkzeuge, um sie direkt zu sehen. Ein Modell kann auf zwei gegensätzliche Arten scheitern.

  • Underfitting: das Modell ist zu einfach, um das Muster zu erfassen. Es schneidet sowohl bei den Trainingsdaten als auch bei den Testdaten schlecht ab. Stell dir vor, du zeichnest eine gerade Linie durch Daten, die sich deutlich krümmen.
  • Overfitting: das Modell ist zu komplex und merkt sich die Trainingsdaten, einschließlich ihres Rauschens und ihrer Eigenheiten. Es erzielt tolle Ergebnisse beim Training, aber schlechte beim Test, weil es die spezifischen Beispiele anstatt der allgemeinen Regel gelernt hat.

Die Komplexität eines decision tree wird durch max_depth gesteuert, die Anzahl der Frage-Ebenen, die er erlaubt:

shallow = DecisionTreeClassifier(max_depth=1, random_state=0)   # too simple
deep    = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimited
Ein

A depth-1 tree darf nur eine Frage stellen, also ist er gezwungen, grob zu sein und neigt zum Underfitting. Ein Baum mit unbegrenzter Tiefe führt immer weiter Splits aus, bis er die Trainingszeilen isoliert, sodass er die training Genauigkeit auf einen perfekten 1.0 treiben kann, während er bei ungesehenen test Zeilen schlechter abschneidet.

Das eindeutige Zeichen für Overfitting ist eine gap: Die training accuracy ist viel höher als die test accuracy. Die ganze Kunst des Tunings eines Modells besteht darin, die mittlere Komplexität zu finden, die auf Testdaten gut abschneidet, da dies der einzige Wert zählt.

Du wirst sowohl einen flachen als auch einen tiefen Baum trainieren, die train und test accuracy für jeden aufzeichnen und die overfitting gap berechnen, damit die Beziehung direkt in den Zahlen steht.

Du bist dran

Ein verrauschter Datensatz und eine Train/Test-Aufteilung sind bereits vorbereitet. Trainiere shallow = DecisionTreeClassifier(max_depth=1, random_state=0) und deep = DecisionTreeClassifier(max_depth=None, random_state=0) auf den Trainingsdaten. Notiere vier Zahlen: shallow_train, shallow_test, deep_train, deep_test (accuracy auf dem passenden Set für jeden Baum). Setze dann overfit_gap = deep_train - deep_test.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.