잡음에서 나선으로(DDPM)
왜 중요한가 잡음이 데이터가 되는 순간이에요. 순수한 잡음에서 시작해서 작은 걸음 100개를 되돌아가고, 각 걸음은 신경망을 한 번 써요. 여기서 쓰는 반복문은, 모양으로 보면, 오늘날 이미지 생성기에서 그림을 그리는 바로 그 반복문이에요.
x_t에서 x_(t-1)로 한 걸음 되돌아가기, DDPM 방식:
- 잡음을 예측하고, 거기서 깨끗한 추정값 x0을(지난 레슨).
- x0을 진짜 데이터가 가질 수 있는 범위로 자르세요(여기서는 -3에서 3).
- x_t와 x0이 주어졌을 때 x_(t-1)이 있을 곳의 정확한 평균으로 옮기세요:
mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t - 마지막 걸음을 빼고, 퍼짐
sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t))의 새 잡음을 더하세요. (abar_(-1)은 1로 쳐요.)
왜 자르나? 강좌는 그걸 어렵게 알아냈어요. 코사인 스케줄의 마지막 몇 걸음에서 beta가 0.999에 닿아서, 평범한 걸음은 예측한 잡음의 어떤 오차든 약 30배로 곱해요. 자르기가 없으면 강좌의 숫자 모델은 숫자보다 뒤섞인 픽셀에 더 가까운 그림을 그렸어요(가까움 4.68). 있으면 1.09.
이 레슨의 단어와 기호
- 잡음 스케줄 (beta)
- 각 걸음에서 새 잡음을 얼마나 섞는지
- abar
- 여러 걸음 뒤에 남은 원래 신호의 비율(그 제곱근이 x0에 곱해져요)
- x0, x_t
- 깨끗한 데이터, 그리고 t걸음의 잡음 뒤의 같은 데이터
- eps
- 더해진 종 모양 잡음. 신경망이 그걸 예측하는 걸 배워요
- DDPM
- 매 걸음 새 잡음과 함께 모든 걸음을 되짚어 가며 샘플링하기
- 모양 위, 덮음
- 2D 심판: 진짜 모양 근처에 있는 샘플의 비율, 그리고 근처에 샘플이 있는 모양의 비율
위의 네 단계 그대로(x0을 -3에서 3으로 자르기, 평균, 그다음 t = 0을 빼고 잡음) step_back(x, eps_pred, t, beta, abar, rng)를 쓰고, 걸음 99에서 N(0, 1) 잡음으로 시작해 0까지 되돌아가는 샘플링 반복문 generate(model, n, rng)을 쓰세요. 샘플이 나선 위 적어도 0.8, 덮음 0.95로 통과하세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.