더 적은 걸음(DDIM)
왜 중요한가 그림마다 신경망 호출 100번은 느리고, 진짜 모델은 1000번을 써요. DDIM(Song, Meng and Ermon, 2021)은 걸음을 건너뛰어요: 같은 훈련된 신경망을 써서, 새 잡음 없이 x_t에서 훨씬 이른 걸음으로 바로 뛰어요. 얼마나 적은 걸음으로 버틸 수 있을까요?
강좌의 숫자 모델은 한 번 훈련됐어요(difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k)는 DDIM 걸음 k개로 레이블마다 그림 하나를 그려요(steps=None은 DDPM 걸음 100개 전부를 돌려요). 모듈 15의 심판이 점수를 매겨요: 가장 가까운 진짜 숫자까지의 가까움(진짜 숫자 1.04).
곡선 맞히기
재기 전에 걸음 2, 5, 10, 20, 100에서의 가까움을 추측하세요. 논문과 블로그 글은 흔히 50걸음 아래에서 품질이 눈에 띄게 떨어진다고 해요. 이 모델에서 재세요.
이 레슨의 단어와 기호
- x0, x_t
- 깨끗한 데이터, 그리고 t걸음의 잡음 뒤의 같은 데이터
- eps
- 더해진 종 모양 잡음. 신경망이 그걸 예측하는 걸 배워요
- DDPM
- 매 걸음 새 잡음과 함께 모든 걸음을 되짚어 가며 샘플링하기
- DDIM
- 새 잡음 없이 몇 걸음 사이를 뛰어서 샘플링하기
my_guess(가까움 숫자 다섯)를 채우고, 그다음 각 걸음 수에서의 진짜 가까움으로 measured를 채우고, fewest_good을 가까움이 100걸음 결과에서 0.05 안에 드는 가장 적은 걸음으로 설정하세요.
이 연습은 곧 열려요
앞의 레슨을 마치면 이 레슨이 열려요. 강좌 전체가 무료이고 계정도 필요 없으며, 이 레슨은 지금 바로 읽을 수 있어요.
이 브라우저가 learn.floati.life의 쿠키를 막고 있어서, 여기서 마친 레슨들이 순서대로 열리지 않아요. 이 사이트의 쿠키를 허용하고 새로고침하세요.