Chương trình học Bài 188 trên tổng số 246 · Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)
Mô-đun 17: Nhiễu vào, ảnh ra (khuếch tán)

Một U-Net nhỏ

Vì sao điều này quan trọng Với ảnh, bộ dự đoán nhiễu trong các mô hình khuếch tán thật là một U-Net: nó ép bức ảnh xuống để thấy các hình dạng lớn, rồi phóng nó trở lại kích thước đầy đủ, với các lối tắt mang chi tiết nhỏ đi qua. Bạn đã biết mọi thành phần.

Một U-Net cho ảnh 8 x 8 một kênh:

  1. Xuống: tích chập 3 x 3 ra 16 kênh, ReLU. Giữ cái này làm skip (8 x 8 x 16). Rồi pool trung bình 2 x 2 xuống 4 x 4.
  2. Giữa: tích chập 3 x 3 ra 32 kênh, ReLU (4 x 4 x 32): mỗi đơn vị giờ thấy một vùng rộng.
  3. Lên: phóng to lên 8 x 8, rồi nối nó với skip dọc theo các kênh (E.concat): 8 x 8 x 48.
  4. Tích chập 3 x 3 ra 16 kênh, ReLU, rồi một tích chập 3 x 3 ra 1 kênh: nhiễu dự đoán, cùng kích thước với đầu vào.

Kết nối tắt là ý tưởng then chốt của U-Net: đường xuống vứt bỏ chi tiết để thấy hình dạng, và lối tắt trao chi tiết đó thẳng cho đường lên. Không có nó, đầu ra bị mờ.

Không huấn luyện ở đây: bạn dựng nó và chứng minh nó được nối đúng, bằng shape và một phép kiểm tra gradient, theo cách bạn đã kiểm tra các lớp ở Mô-đun 4.

Từ và ký hiệu trong bài học này
mô hình khuếch tán
một mạng được huấn luyện để loại bỏ nhiễu từng chút một; chạy ngược từ nhiễu thuần, nó sinh ra dữ liệu
U-Net
một mạng thu nhỏ bức ảnh để thấy hình dạng, phóng nó trở lại, và chuyển chi tiết qua bằng các kết nối tắt
Đến lượt bạn

Viết unet(x, P) cho x là một E.T có shape (n, 8, 8, 1), với các trọng số trong P như mã khởi đầu tạo ra. Rồi kiểm tra một gradient bằng phép đẩy nhẹ: gán max_gap là hiệu lớn nhất giữa lan truyền ngược và phép đẩy nhẹ trên 5 con số đầu tiên của P['up2'][0]. Bộ máy làm việc với float32, nên hãy đẩy nhẹ với h = 1e-3 hoặc lớn hơn: với 1e-4 thay đổi của giá trị mất mát bị mất do làm tròn và một gradient đúng trông như sai.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.