Temario Lección 60 de 246 · Módulo 4: Tu propio motor de autograd
Módulo 4: Tu propio motor de autograd

Apunta el comprobador a tu motor

Por qué importa Un motor con una regla mal entrenará, despacio y mal, y puede que nunca lo sepas. A partir de ahora, cada operación nueva se comprueba antes de usarla.

Tu comprobador del Módulo 3 empujaba arrays de NumPy. Aquí, empuja el data de un Tensor en su sitio, vuelve a construir el cálculo, y compara con lo que backward dejó en .grad.

La receta: (1) construye la salida y llama a backward() una vez para obtener los gradientes del motor. (2) Para cada entrada y cada elemento, empuja data hacia arriba y hacia abajo, vuelve a construir, y lee el valor de la salida. (3) Da el mayor error relativo.

Resumen Nunca te fíes de una regla hacia atrás nueva hasta que haya pasado una comprobación.

Palabras y símbolos de esta lección
Tensor
aquí: un array más su gradiente más los Tensor de los que salió
.grad
el gradiente de la pérdida final respecto a este Tensor
unbroadcast
sumar un gradiente hasta devolverlo a la forma desde la que se estiró
Tu turno

Escribe engine_check(build, inputs): build() devuelve un Tensor escalar calculado a partir de los Tensor de la lista inputs. Devuelve el mayor error relativo entre los gradientes del motor y los de los empujones. Pon a cero el grad de cada entrada antes de llamar a backward. La prueba oculta planta tres errores en el motor, de uno en uno; tu comprobador debe dar más de 1e-3 con cada uno, y menos de 1e-6 con el motor correcto.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.