Conteúdo do curso Lição 115 de 246 · Módulo 10: Redes que veem (CNNs)
Módulo 10: Redes que veem (CNNs)

Convolução reversa

Por que isso importa Para aprender seus filtros, uma CNN precisa do gradiente da perda em relação a cada peso do filtro. Isso acaba sendo outra convolução.

Números pequenos, em 1D primeiro

Entrada x = [1, 2, 3, 4], filtro w = [10, 20], saída válida y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. O peso w[0] tocou x[0], x[1], x[2] (uma vez por saída), então seu gradiente é g[0]*x[0] + g[1]*x[1] + g[2]*x[2]: a entrada deslizou contra o gradiente de chegada g. A entrada x[1] foi usada por y[0] (com w[1]) e y[1] (com w[0]), então seu gradiente coleta g[0]*w[1] + g[1]*w[0].

As regras

  • Filtro de gradiente: deslize a entrada contra o gradiente que chega (uma correlação válida de x com g).
  • Gradiente de entrada: preencha g e deslize o filtro, invertido, sobre ele (uma convolução completa).

Mesma ideia em 2D. Conv2d desbloqueia na biblioteca da casa depois desta lição.

Palavras e símbolos nesta lição
convolution
deslizando uma pequena grade de pesos (um filtro) por uma imagem, um produto escalar por posição
filter, mapa de características
a pequena grade aprendida de pesos; e a imagem de suas respostas
Sua vez

Escreva conv1d(x, w) (valid) e conv1d_backward(x, w, g) retornando (dx, dw). Depois conv2d_backward(img, k, g) retornando (dimg, dk) para a convolução 2D válida. O teste oculto verifica cada gradiente contra um ajuste.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.