강의 계획 레슨 246개 중 185번째 · 모듈 17: 잡음을 넣으면 그림이 나와요(확산)
모듈 17: 잡음을 넣으면 그림이 나와요(확산)

잡음에서 나선으로(DDPM)

왜 중요한가 잡음이 데이터가 되는 순간이에요. 순수한 잡음에서 시작해서 작은 걸음 100개를 되돌아가고, 각 걸음은 신경망을 한 번 써요. 여기서 쓰는 반복문은, 모양으로 보면, 오늘날 이미지 생성기에서 그림을 그리는 바로 그 반복문이에요.

x_t에서 x_(t-1)로 한 걸음 되돌아가기, DDPM 방식:

  1. 잡음을 예측하고, 거기서 깨끗한 추정값 x0을(지난 레슨).
  2. x0을 진짜 데이터가 가질 수 있는 범위로 자르세요(여기서는 -3에서 3).
  3. x_t와 x0이 주어졌을 때 x_(t-1)이 있을 곳의 정확한 평균으로 옮기세요:
    mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t
  4. 마지막 걸음을 빼고, 퍼짐 sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t))의 새 잡음을 더하세요. (abar_(-1)은 1로 쳐요.)

왜 자르나? 강좌는 그걸 어렵게 알아냈어요. 코사인 스케줄의 마지막 몇 걸음에서 beta가 0.999에 닿아서, 평범한 걸음은 예측한 잡음의 어떤 오차든 약 30배로 곱해요. 자르기가 없으면 강좌의 숫자 모델은 숫자보다 뒤섞인 픽셀에 더 가까운 그림을 그렸어요(가까움 4.68). 있으면 1.09.

이 레슨의 단어와 기호
잡음 스케줄 (beta)
각 걸음에서 새 잡음을 얼마나 섞는지
abar
여러 걸음 뒤에 남은 원래 신호의 비율(그 제곱근이 x0에 곱해져요)
x0, x_t
깨끗한 데이터, 그리고 t걸음의 잡음 뒤의 같은 데이터
eps
더해진 종 모양 잡음. 신경망이 그걸 예측하는 걸 배워요
DDPM
매 걸음 새 잡음과 함께 모든 걸음을 되짚어 가며 샘플링하기
모양 위, 덮음
2D 심판: 진짜 모양 근처에 있는 샘플의 비율, 그리고 근처에 샘플이 있는 모양의 비율
내 차례

위의 네 단계 그대로(x0을 -3에서 3으로 자르기, 평균, 그다음 t = 0을 빼고 잡음) step_back(x, eps_pred, t, beta, abar, rng)를 쓰고, 걸음 99에서 N(0, 1) 잡음으로 시작해 0까지 되돌아가는 샘플링 반복문 generate(model, n, rng)을 쓰세요. 샘플이 나선 위 적어도 0.8, 덮음 0.95로 통과하세요.

이 레슨에서 문제를 발견했나요? 알려 주세요 · 이 레슨에 대해 묻기

이 연습은 곧 열려요

앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.