작은 U-Net
왜 중요한가 그림에서 진짜 확산 모델의 잡음 예측기는 U-Net이에요: 큰 모양을 보려고 그림을 줄이고, 그다음 전체 크기로 다시 키우는데, 세밀한 부분을 건너편으로 나르는 지름길이 있어요. 모든 조각을 이미 알아요.
채널 하나짜리 8 x 8 그림을 위한 U-Net:
- 아래로: 채널 16개로 가는 3 x 3 conv, ReLU. 이걸
skip(8 x 8 x 16)으로 지니세요. 그다음 4 x 4로 2 x 2 평균 풀링. - 가운데: 채널 32개로 가는 3 x 3 conv, ReLU(4 x 4 x 32): 이제 각 유닛이 넓은 영역을 봐요.
- 위로: 8 x 8로 업샘플하고, 그다음 채널을 따라
skip과 이으세요(E.concat): 8 x 8 x 48. - 채널 16개로 가는 3 x 3 conv, ReLU, 그다음 채널 1개로 가는 3 x 3 conv: 입력과 같은 크기의 예측한 잡음.
스킵 연결이 U-Net의 핵심 생각이에요: 아래로 가는 경로는 모양을 보려고 세밀함을 버리고, 스킵은 그 세밀함을 위로 가는 경로에 바로 건네줘요. 그게 없으면 출력이 흐릿해요.
여기서는 훈련하지 않아요: 만들고, 모듈 4에서 층을 확인한 방식대로 모양과 기울기 검사로 연결이 맞는지 증명해요.
이 레슨의 단어와 기호
- 확산 모델
- 잡음을 조금씩 없애도록 훈련한 신경망. 순수한 잡음에서 거꾸로 돌리면 생성해요
- U-Net
- 모양을 보려고 그림을 줄이고, 다시 키우고, 스킵 연결로 세밀함을 건너편에 넘기는 신경망
x가 모양 (n, 8, 8, 1)인 E.T이고 가중치가 시작 코드가 만든 대로 P에 있을 때 unet(x, P)를 쓰세요. 그다음 살짝 밀기로 기울기 하나를 확인하세요: max_gap을 P['up2'][0]의 처음 숫자 5개에 걸친 역전파와 살짝 밀기 사이의 가장 큰 차이로 설정하세요. 엔진은 float32로 작동하니, h = 1e-3 이상으로 미세요: 1e-4면 손실의 변화가 반올림에 묻혀서 올바른 기울기가 틀려 보여요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.