La convolución hacia atrás
Por qué importa Para aprender sus filtros, una CNN necesita el gradiente de la pérdida respecto a cada peso del filtro. Resulta ser otra convolución.
Números diminutos, primero en 1D
Entrada x = [1, 2, 3, 4], filtro w = [10, 20], salida válida y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. El peso w[0] tocó x[0], x[1], x[2] (una vez por salida), así que su gradiente es g[0]*x[0] + g[1]*x[1] + g[2]*x[2]: la entrada deslizada contra el gradiente que llega, g. La entrada x[1] la usaron y[0] (con w[1]) e y[1] (con w[0]), así que su gradiente recoge g[0]*w[1] + g[1]*w[0].
Las reglas
- Gradiente del filtro: desliza la entrada contra el gradiente que llega (una correlación válida de x con g).
- Gradiente de la entrada: rellena g y desliza el filtro, volteado, por encima (una convolución completa).
La misma idea en 2D. Conv2d se desbloquea en la biblioteca de la casa después de esta lección.
Palabras y símbolos de esta lección
- convolución
- deslizar una pequeña cuadrícula de pesos (un filtro) por una imagen, un producto escalar por posición
- filtro, mapa de características
- la pequeña cuadrícula de pesos aprendida; y la imagen de sus respuestas
Escribe conv1d(x, w) (válida) y conv1d_backward(x, w, g) que devuelva (dx, dw). Luego conv2d_backward(img, k, g) que devuelva (dimg, dk) para la convolución válida 2D. La prueba oculta comprueba cada gradiente contra un empujón.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.