강의 계획 레슨 246개 중 188번째 · 모듈 17: 잡음을 넣으면 그림이 나와요(확산)
모듈 17: 잡음을 넣으면 그림이 나와요(확산)

작은 U-Net

왜 중요한가 그림에서 진짜 확산 모델의 잡음 예측기는 U-Net이에요: 큰 모양을 보려고 그림을 줄이고, 그다음 전체 크기로 다시 키우는데, 세밀한 부분을 건너편으로 나르는 지름길이 있어요. 모든 조각을 이미 알아요.

채널 하나짜리 8 x 8 그림을 위한 U-Net:

  1. 아래로: 채널 16개로 가는 3 x 3 conv, ReLU. 이걸 skip(8 x 8 x 16)으로 지니세요. 그다음 4 x 4로 2 x 2 평균 풀링.
  2. 가운데: 채널 32개로 가는 3 x 3 conv, ReLU(4 x 4 x 32): 이제 각 유닛이 넓은 영역을 봐요.
  3. 위로: 8 x 8로 업샘플하고, 그다음 채널을 따라 skip과 이으세요(E.concat): 8 x 8 x 48.
  4. 채널 16개로 가는 3 x 3 conv, ReLU, 그다음 채널 1개로 가는 3 x 3 conv: 입력과 같은 크기의 예측한 잡음.

스킵 연결이 U-Net의 핵심 생각이에요: 아래로 가는 경로는 모양을 보려고 세밀함을 버리고, 스킵은 그 세밀함을 위로 가는 경로에 바로 건네줘요. 그게 없으면 출력이 흐릿해요.

여기서는 훈련하지 않아요: 만들고, 모듈 4에서 층을 확인한 방식대로 모양과 기울기 검사로 연결이 맞는지 증명해요.

이 레슨의 단어와 기호
확산 모델
잡음을 조금씩 없애도록 훈련한 신경망. 순수한 잡음에서 거꾸로 돌리면 생성해요
U-Net
모양을 보려고 그림을 줄이고, 다시 키우고, 스킵 연결로 세밀함을 건너편에 넘기는 신경망
내 차례

x가 모양 (n, 8, 8, 1)인 E.T이고 가중치가 시작 코드가 만든 대로 P에 있을 때 unet(x, P)를 쓰세요. 그다음 살짝 밀기로 기울기 하나를 확인하세요: max_gap을 P['up2'][0]의 처음 숫자 5개에 걸친 역전파와 살짝 밀기 사이의 가장 큰 차이로 설정하세요. 엔진은 float32로 작동하니, h = 1e-3 이상으로 미세요: 1e-4면 손실의 변화가 반올림에 묻혀서 올바른 기울기가 틀려 보여요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.