Temario Lección 95 de 250 · Tus primeros modelos de aprendizaje automático
Tus primeros modelos de aprendizaje automático

Subajuste y sobreajuste

Esta es la tensión central de todo el aprendizaje automático, y ahora tienes las herramientas para verla directamente. Un modelo puede fallar de dos formas opuestas.

  • Subajuste (underfitting): el modelo es demasiado sencillo para captar el patrón. Le va mal tanto con los datos de entrenamiento como con los de prueba. Piensa en trazar una línea recta por unos datos que claramente se curvan.
  • Sobreajuste (overfitting): el modelo es demasiado complejo y memoriza los datos de entrenamiento, con su ruido y sus rarezas. Saca muy buena nota en el entrenamiento pero mala en la prueba, porque aprendió los ejemplos concretos en lugar de la regla general.

La complejidad de un árbol de decisión la controla max_depth, el número de capas de preguntas que puede tener:

shallow = DecisionTreeClassifier(max_depth=1, random_state=0)   # too simple
deep    = DecisionTreeClassifier(max_depth=None, random_state=0) # unlimited

Un árbol de profundidad 1 solo puede hacer una pregunta, así que se ve obligado a ser tosco y tiende al subajuste. Un árbol de profundidad ilimitada sigue dividiendo hasta aislar las filas de entrenamiento, así que puede llevar la exactitud de entrenamiento a un 1.0 perfecto mientras le va peor con las filas de prueba que no ha visto.

La señal delatora del sobreajuste es una brecha: una exactitud de entrenamiento mucho más alta que la de prueba. Todo el oficio de ajustar un modelo consiste en encontrar la complejidad intermedia a la que le va bien con los datos de prueba, que es la única nota que cuenta.

Vas a entrenar un árbol poco profundo y uno profundo, guardar la exactitud de entrenamiento y de prueba de cada uno, y calcular la brecha de sobreajuste para que la relación quede ahí, en los números.

Tu turno

Ya tienes preparados un conjunto de datos con ruido y una separación de entrenamiento y prueba. Entrena shallow = DecisionTreeClassifier(max_depth=1, random_state=0) y deep = DecisionTreeClassifier(max_depth=None, random_state=0) con los datos de entrenamiento. Guarda cuatro números: shallow_train, shallow_test, deep_train, deep_test (la exactitud de cada árbol con el conjunto correspondiente). Luego asigna overfit_gap = deep_train - deep_test.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.