Ít bước hơn (DDIM)
Vì sao điều này quan trọng 100 lần gọi mạng cho mỗi bức ảnh là chậm, và các mô hình thật dùng 1000. DDIM (Song, Meng và Ermon, 2021) bỏ qua các bước: nó nhảy từ x_t thẳng tới một bước sớm hơn nhiều, không có nhiễu mới, dùng cùng mạng đã huấn luyện. Bạn có thể dùng ít bước tới mức nào mà vẫn ổn?
Mô hình chữ số của khóa học được huấn luyện một lần (difflab.recorded_digit_model()). difflab.sample_digits(model, labels, w=2.0, steps=k) vẽ một ảnh cho mỗi nhãn với k bước DDIM (steps=None chạy cả 100 bước DDPM). Giám khảo từ Mô-đun 15 chấm chúng: độ gần tới chữ số thật gần nhất (chữ số thật 1.04).
Đoán đường cong
Trước khi đo, hãy đoán độ gần ở 2, 5, 10, 20 và 100 bước. Các bài báo và bài blog thường nói chất lượng giảm rõ rệt dưới 50 bước. Hãy đo nó trên mô hình này.
Từ và ký hiệu trong bài học này
- x0, x_t
- dữ liệu sạch, và cùng dữ liệu đó sau t bước nhiễu
- eps
- nhiễu hình chuông đã được cộng vào; mạng học cách dự đoán nó
- DDPM
- lấy mẫu bằng cách lùi qua từng bước, với nhiễu mới mỗi lần
- DDIM
- lấy mẫu bằng cách nhảy giữa vài bước, không có nhiễu mới
Điền my_guess (năm con số độ gần), rồi điền measured với độ gần thật ở mỗi số bước, và gán fewest_good là số bước ít nhất có độ gần nằm trong phạm vi 0.05 so với kết quả 100 bước.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.