Temario Lección 101 de 250 · Intuición de redes neuronales, LLM y proyecto final de IA
Intuición de redes neuronales, LLM y proyecto final de IA

Cómo aprenden los modelos

Una red recién creada tiene pesos aleatorios y no sirve para nada. El entrenamiento es el proceso de ir ajustando esos pesos hasta que la salida es buena. Lo mueven dos ideas.

1. Una función de pérdida mide lo equivocado

Necesitas un solo número que diga lo malas que son las predicciones. Para la regresión, la opción de siempre es el error cuadrático medio (MSE): la media de las diferencias al cuadrado entre lo real y la predicción.

def mse(y_true, y_pred):
    diffs = np.asarray(y_true) - np.asarray(y_pred)
    return float(np.mean(diffs ** 2))

Elevar al cuadrado castiga más los fallos grandes y lo mantiene todo positivo. Cuanto menor sea la pérdida, mejor; una pérdida cero significa un ajuste perfecto.

2. El descenso de gradiente rueda cuesta abajo

Imagina la pérdida como una superficie con colinas y los pesos como tu posición en ella. El gradiente es la pendiente: apunta cuesta arriba, hacia más pérdida. Así que, para reducir la pérdida, das un pequeño paso en la dirección contraria.

w = w - learning_rate * gradient

La tasa de aprendizaje (learning rate) es el tamaño del paso. Repítelo miles de veces y los pesos ruedan hacia un valle de poca pérdida. Ese bucle es todo lo que es entrenar.

Para un modelo de juguete y = w * x con MSE, el gradiente de la pérdida respecto a w resulta ser mean(2 * (w*x - y) * x). Vas a dar exactamente un paso y ver cómo baja la pérdida.

De un peso a una red entera

La red de dos capas que construiste en la lección anterior tiene muchos pesos, no uno. Entrenarla significa encontrar el gradiente de la pérdida respecto a cada peso, capa a capa. Eso es la retropropagación (backpropagation): empezar en la pérdida y aplicar la regla de la cadena hacia atrás por cada capa para obtener la pendiente de cada peso, y luego dar el mismo paso cuesta abajo en todos a la vez. Las cuentas pesan más, pero la idea es idéntica al paso único que das abajo. En el código real nunca la derivas a mano: frameworks como PyTorch registran la pasada hacia delante y una sola llamada a loss.backward() calcula todos los gradientes por ti. Aquí hacemos la versión de un peso para que el mecanismo siga siendo concreto.

Tu turno

Implementa mse(y_true, y_pred) (la media de las diferencias al cuadrado). Luego, para el modelo de juguete y = w * x, calcula loss_before, da un paso de descenso de gradiente con grad = np.mean(2 * (w*x - y) * x) y w = w - lr * grad, y luego calcula loss_after. La pérdida tiene que bajar.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.