강의 계획 레슨 246개 중 115번째 · 모듈 10: 보는 신경망(CNN)
모듈 10: 보는 신경망(CNN)

합성곱 역방향

왜 중요한가 필터를 배우려면 CNN은 모든 필터 가중치에 대한 손실의 기울기가 필요해요. 그건 또 다른 합성곱으로 밝혀져요.

작은 숫자, 먼저 1D로

입력 x = [1, 2, 3, 4], 필터 w = [10, 20], 유효 출력 y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. 가중치 w[0]은 x[0], x[1], x[2]를 건드렸으니(출력마다 한 번), 그 기울기는 g[0]*x[0] + g[1]*x[1] + g[2]*x[2]예요: 도착하는 기울기 g에 대고 입력을 미끄러뜨린 것. 입력 x[1]은 y[0](w[1]과)과 y[1](w[0]과)에 쓰였으니, 그 기울기는 g[0]*w[1] + g[1]*w[0]을 모아요.

규칙

  • 필터 기울기: 도착하는 기울기에 대고 입력을 미끄러뜨리세요(x와 g의 유효 상관).
  • 입력 기울기: g를 패딩하고 뒤집은 필터를 그 위로 미끄러뜨리세요(완전 합성곱).

2D에서도 같은 생각이에요. 이 레슨 뒤에 강좌 라이브러리에서 Conv2d가 열려요.

이 레슨의 단어와 기호
합성곱
작은 가중치 격자(필터)를 이미지 위로 미끄러뜨리며, 위치마다 내적 하나
필터, 특성 맵
학습한 작은 가중치 격자, 그리고 그 반응들의 이미지
내 차례

conv1d(x, w)(유효)와 (dx, dw)를 반환하는 conv1d_backward(x, w, g)를 쓰세요. 그다음 2D 유효 합성곱에 대해 (dimg, dk)를 반환하는 conv2d_backward(img, k, g)를 쓰세요. 숨겨진 테스트는 모든 기울기를 살짝 밀기와 대조해요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.