Từ nhiễu tới một hình xoắn ốc (DDPM)
Vì sao điều này quan trọng Đây là lúc nhiễu trở thành dữ liệu. Bắt đầu từ nhiễu thuần và lùi lại 100 bước nhỏ, mỗi bước dùng mạng một lần. Vòng lặp bạn viết ở đây, về hình dạng, chính là vòng lặp vẽ ảnh trong các trình tạo ảnh ngày nay.
Một bước lùi từ x_t về x_(t-1), theo cách DDPM:
- Dự đoán nhiễu, và từ nó ước lượng sạch x0 (bài học trước).
- Cắt x0 về phạm vi mà dữ liệu thật có thể có (ở đây -3 tới 3).
- Di chuyển tới đúng trung bình của nơi x_(t-1) sẽ ở, khi biết x_t và x0:
mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t - Thêm nhiễu mới có độ phân tán
sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)), trừ ở bước cuối. (abar_(-1) được tính là 1.)
Vì sao phải cắt? Khóa học đã phát hiện ra theo cách khó khăn. Ở vài bước cuối của lịch cosine beta đạt 0.999, nên một bước thông thường nhân mọi sai số trong nhiễu dự đoán lên khoảng 30 lần. Không cắt, mô hình chữ số của khóa học vẽ ra những ảnh gần điểm ảnh bị xáo trộn hơn là chữ số (độ gần 4.68). Có cắt, 1.09.
Từ và ký hiệu trong bài học này
- lịch nhiễu (beta)
- bao nhiêu nhiễu mới được trộn vào ở mỗi bước
- abar
- phần tín hiệu gốc còn lại sau một số bước (căn bậc hai của nó nhân với x0)
- x0, x_t
- dữ liệu sạch, và cùng dữ liệu đó sau t bước nhiễu
- eps
- nhiễu hình chuông đã được cộng vào; mạng học cách dự đoán nó
- DDPM
- lấy mẫu bằng cách lùi qua từng bước, với nhiễu mới mỗi lần
- trên hình dạng, độ phủ
- giám khảo 2D: tỷ lệ mẫu nằm gần hình dạng thật, và tỷ lệ hình dạng có một mẫu nằm gần
Viết step_back(x, eps_pred, t, beta, abar, rng) đúng như bốn bước ở trên (cắt x0 về -3 tới 3, trung bình, rồi nhiễu trừ khi t = 0) và vòng lặp lấy mẫu generate(model, n, rng) bắt đầu từ nhiễu N(0, 1) ở bước 99 và lùi về 0. Đạt khi các mẫu đạt ít nhất 0.8 trên hình xoắn ốc và độ phủ 0.95.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.