Cómo aprenden los modelos
Una red recién creada tiene pesos aleatorios y no sirve para nada. El entrenamiento es el proceso de ir ajustando esos pesos hasta que la salida es buena. Lo mueven dos ideas.
1. Una función de pérdida mide lo equivocado
Necesitas un solo número que diga lo malas que son las predicciones. Para la regresión, la opción de siempre es el error cuadrático medio (MSE): la media de las diferencias al cuadrado entre lo real y la predicción.
def mse(y_true, y_pred):
diffs = np.asarray(y_true) - np.asarray(y_pred)
return float(np.mean(diffs ** 2))Elevar al cuadrado castiga más los fallos grandes y lo mantiene todo positivo. Cuanto menor sea la pérdida, mejor; una pérdida cero significa un ajuste perfecto.
2. El descenso de gradiente rueda cuesta abajo
Imagina la pérdida como una superficie con colinas y los pesos como tu posición en ella. El gradiente es la pendiente: apunta cuesta arriba, hacia más pérdida. Así que, para reducir la pérdida, das un pequeño paso en la dirección contraria.
w = w - learning_rate * gradientLa tasa de aprendizaje (learning rate) es el tamaño del paso. Repítelo miles de veces y los pesos ruedan hacia un valle de poca pérdida. Ese bucle es todo lo que es entrenar.
Para un modelo de juguete y = w * x con MSE, el gradiente de la pérdida respecto a w resulta ser mean(2 * (w*x - y) * x). Vas a dar exactamente un paso y ver cómo baja la pérdida.
De un peso a una red entera
La red de dos capas que construiste en la lección anterior tiene muchos pesos, no uno. Entrenarla significa encontrar el gradiente de la pérdida respecto a cada peso, capa a capa. Eso es la retropropagación (backpropagation): empezar en la pérdida y aplicar la regla de la cadena hacia atrás por cada capa para obtener la pendiente de cada peso, y luego dar el mismo paso cuesta abajo en todos a la vez. Las cuentas pesan más, pero la idea es idéntica al paso único que das abajo. En el código real nunca la derivas a mano: frameworks como PyTorch registran la pasada hacia delante y una sola llamada a loss.backward() calcula todos los gradientes por ti. Aquí hacemos la versión de un peso para que el mecanismo siga siendo concreto.
Implementa mse(y_true, y_pred) (la media de las diferencias al cuadrado). Luego, para el modelo de juguete y = w * x, calcula loss_before, da un paso de descenso de gradiente con grad = np.mean(2 * (w*x - y) * x) y w = w - lr * grad, y luego calcula loss_after. La pérdida tiene que bajar.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.