Convolução reversa
Por que isso importa Para aprender seus filtros, uma CNN precisa do gradiente da perda em relação a cada peso do filtro. Isso acaba sendo outra convolução.
Números pequenos, em 1D primeiro
Entrada x = [1, 2, 3, 4], filtro w = [10, 20], saída válida y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. O peso w[0] tocou x[0], x[1], x[2] (uma vez por saída), então seu gradiente é g[0]*x[0] + g[1]*x[1] + g[2]*x[2]: a entrada deslizou contra o gradiente de chegada g. A entrada x[1] foi usada por y[0] (com w[1]) e y[1] (com w[0]), então seu gradiente coleta g[0]*w[1] + g[1]*w[0].
As regras
- Filtro de gradiente: deslize a entrada contra o gradiente que chega (uma correlação válida de x com g).
- Gradiente de entrada: preencha g e deslize o filtro, invertido, sobre ele (uma convolução completa).
Mesma ideia em 2D. Conv2d desbloqueia na biblioteca da casa depois desta lição.
Palavras e símbolos nesta lição
- convolution
- deslizando uma pequena grade de pesos (um filtro) por uma imagem, um produto escalar por posição
- filter, mapa de características
- a pequena grade aprendida de pesos; e a imagem de suas respostas
Escreva conv1d(x, w) (valid) e conv1d_backward(x, w, g) retornando (dx, dw). Depois conv2d_backward(img, k, g) retornando (dimg, dk) para a convolução 2D válida. O teste oculto verifica cada gradiente contra um ajuste.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.