Chương trình học Bài 185 trên tổng số 246 · Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)
Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)

Từ nhiễu tới một hình xoắn ốc (DDPM)

Vì sao điều này quan trọng Đây là lúc nhiễu trở thành dữ liệu. Bắt đầu từ nhiễu thuần và lùi lại 100 bước nhỏ, mỗi bước dùng mạng một lần. Vòng lặp bạn viết ở đây, về hình dạng, chính là vòng lặp vẽ ảnh trong các trình tạo ảnh ngày nay.

Một bước lùi từ x_t về x_(t-1), theo cách DDPM:

  1. Dự đoán nhiễu, và từ nó ước lượng sạch x0 (bài học trước).
  2. Cắt x0 về phạm vi mà dữ liệu thật có thể có (ở đây -3 tới 3).
  3. Di chuyển tới đúng trung bình của nơi x_(t-1) sẽ ở, khi biết x_t và x0:
    mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t
  4. Thêm nhiễu mới có độ phân tán sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)), trừ ở bước cuối. (abar_(-1) được tính là 1.)

Vì sao phải cắt? Khóa học đã phát hiện ra theo cách khó khăn. Ở vài bước cuối của lịch cosine beta đạt 0.999, nên một bước thông thường nhân mọi sai số trong nhiễu dự đoán lên khoảng 30 lần. Không cắt, mô hình chữ số của khóa học vẽ ra những ảnh gần điểm ảnh bị xáo trộn hơn là chữ số (độ gần 4.68). Có cắt, 1.09.

Từ và ký hiệu trong bài học này
lịch nhiễu (beta)
bao nhiêu nhiễu mới được trộn vào ở mỗi bước
abar
phần tín hiệu gốc còn lại sau một số bước (căn bậc hai của nó nhân với x0)
x0, x_t
dữ liệu sạch, và cùng dữ liệu đó sau t bước nhiễu
eps
nhiễu hình chuông đã được cộng vào; mạng học cách dự đoán nó
DDPM
lấy mẫu bằng cách lùi qua từng bước, với nhiễu mới mỗi lần
trên hình dạng, độ phủ
giám khảo 2D: tỷ lệ mẫu nằm gần hình dạng thật, và tỷ lệ hình dạng có một mẫu nằm gần
Đến lượt bạn

Viết step_back(x, eps_pred, t, beta, abar, rng) đúng như bốn bước ở trên (cắt x0 về -3 tới 3, trung bình, rồi nhiễu trừ khi t = 0) và vòng lặp lấy mẫu generate(model, n, rng) bắt đầu từ nhiễu N(0, 1) ở bước 99 và lùi về 0. Đạt khi các mẫu đạt ít nhất 0.8 trên hình xoắn ốc và độ phủ 0.95.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.