Chương trình học Bài 190 trên tổng số 246 · Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)
Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)

Lái mẫu (classifier-free guidance)

Vì sao điều này quan trọng "Vẽ một số 7" hiệu quả là nhờ một dòng số học. Mọi mô hình chuyển văn bản thành ảnh dùng nó để làm ảnh đi theo câu lệnh, và cùng dòng đó giải thích vì sao vặn nó lên quá cao làm ảnh tệ đi.

Mô hình chữ số được huấn luyện với nhãn của nó, và 15% số lần với nhãn bị giấu (một token "không nhãn", difflab.NULL). Vậy một mạng có thể dự đoán nhiễu theo cả hai cách. Classifier-free guidance (Ho và Salimans, 2022) trộn chúng:

eps = (1 + w) eps_with_label - w eps_without_label

Hiệu eps_with_label - eps_without_label chỉ về phía "giống nhãn này hơn". w = 0 là lấy mẫu có điều kiện thông thường; w lớn hơn đẩy mạnh hơn. Hãy xem cảnh: cùng nhiễu được vẽ với w = 0, 1, 2 và 4.

Từ và ký hiệu trong bài học này
eps
nhiễu hình chuông đã được cộng vào; mạng học cách dự đoán nó
DDIM
lấy mẫu bằng cách nhảy giữa vài bước, không có nhiễu mới
classifier-free guidance
(1 + w) x nhiễu dự đoán có nhãn - w x nhiễu dự đoán không có nhãn
Đến lượt bạn

Viết guided(model, x, t, labels, w). Rồi điền table: với w bằng 0, 1, 2 và 4, tỷ lệ trong 500 mẫu (20 bước DDIM, mà bài học trước đã cho thấy tốt ngang 100 bước DDIM) được đọc thành chữ số được yêu cầu, và độ gần của chúng. Gán best_w là w có độ gần tốt nhất (thấp nhất) trong số những w đạt ít nhất 0.99 đúng yêu cầu.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.