합성곱 역방향
왜 중요한가 필터를 배우려면 CNN은 모든 필터 가중치에 대한 손실의 기울기가 필요해요. 그건 또 다른 합성곱으로 밝혀져요.
작은 숫자, 먼저 1D로
입력 x = [1, 2, 3, 4], 필터 w = [10, 20], 유효 출력 y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. 가중치 w[0]은 x[0], x[1], x[2]를 건드렸으니(출력마다 한 번), 그 기울기는 g[0]*x[0] + g[1]*x[1] + g[2]*x[2]예요: 도착하는 기울기 g에 대고 입력을 미끄러뜨린 것. 입력 x[1]은 y[0](w[1]과)과 y[1](w[0]과)에 쓰였으니, 그 기울기는 g[0]*w[1] + g[1]*w[0]을 모아요.
규칙
- 필터 기울기: 도착하는 기울기에 대고 입력을 미끄러뜨리세요(x와 g의 유효 상관).
- 입력 기울기: g를 패딩하고 뒤집은 필터를 그 위로 미끄러뜨리세요(완전 합성곱).
2D에서도 같은 생각이에요. 이 레슨 뒤에 강좌 라이브러리에서 Conv2d가 열려요.
이 레슨의 단어와 기호
- 합성곱
- 작은 가중치 격자(필터)를 이미지 위로 미끄러뜨리며, 위치마다 내적 하나
- 필터, 특성 맵
- 학습한 작은 가중치 격자, 그리고 그 반응들의 이미지
conv1d(x, w)(유효)와 (dx, dw)를 반환하는 conv1d_backward(x, w, g)를 쓰세요. 그다음 2D 유효 합성곱에 대해 (dimg, dk)를 반환하는 conv2d_backward(img, k, g)를 쓰세요. 숨겨진 테스트는 모든 기울기를 살짝 밀기와 대조해요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.