Chương trình học Bài 167 trên tổng số 246 · Mô-đun 15: Ép, dựng lại, sinh mới (autoencoder và VAE)
Mô-đun 15: Ép, dựng lại, sinh mới (autoencoder và VAE)

Ép và dựng lại (autoencoder)

Vì sao điều này quan trọng Mọi mạng cho tới giờ biến một bức ảnh thành một nhãn. Mô-đun này biến ảnh thành ảnh mới. Bước đầu tiên là một mạng ép một bức ảnh thành vài con số và dựng lại nó từ chúng. Vài con số đó là nơi những bức ảnh mới sẽ tới.

Một autoencoder là hai mạng nối lưng nhau. Bộ mã hóa ép một chữ số 64 điểm ảnh thành 16 con số, mã của nó. Bộ giải mã dựng lại 64 điểm ảnh từ 16 con số đó. Việc huấn luyện chỉ đòi hỏi một điều: ảnh dựng lại phải khớp với ảnh gốc.

Không ai bảo nó 16 con số nên có nghĩa là gì. Nó phải tự tìm một mô tả ngắn của một chữ số, vì 16 con số không thể đơn giản sao chép 64 điểm ảnh.

Những con số nhỏ xíu

Một chữ số 64 điểm ảnh trở thành 16 con số: ép 4 thành 1. Nếu các điểm ảnh dựng lại lệch trung bình 0.09, sai số bình phương mỗi điểm ảnh khoảng 0.008. Đó là cỡ sai số bạn sẽ đạt được.

Giá trị mất mát được đo ra sao

Mỗi điểm ảnh là một số từ 0 (trống) tới 1 (đầy mực), nên lớp cuối của bộ giải mã cho một điểm số mỗi điểm ảnh và sigmoid biến nó thành 0..1. Giá trị mất mát là binary cross-entropy từ Mô-đun 3, cộng trên 64 điểm ảnh và lấy trung bình trên batch. Bộ máy của khóa học giờ có nó dưới dạng E.bce_with_logits(scores, pictures): nó nhận các điểm số trước sigmoid, nên nó không bao giờ lấy log của 0.

Đầu ra cũng in ảnh dưới dạng văn bản: gen.show(pictures) in mỗi chữ số 8x8 bằng các sắc độ từ trống tới đầy mực.

Từ và ký hiệu trong bài học này
autoencoder
một bộ mã hóa ép một bức ảnh thành vài con số và một bộ giải mã dựng lại nó
mã (latent)
vài con số mà bộ mã hóa tạo ra từ một bức ảnh
mu, logvar
tâm và log của bình phương độ phân tán của một số mã trong một VAE
Đến lượt bạn

Viết encode(x): một lớp dense với ReLU (P['e1']), rồi một lớp dense ra 16 con số (P['e2']). Viết decode(code) theo cùng cách với P['d1'], ReLU và P['d2'], trả về 64 điểm số trước sigmoid. Vòng lặp huấn luyện đã được viết sẵn cho bạn. Hãy đạt sai số dựng lại trên tập kiểm tra dưới 0.012 mỗi điểm ảnh.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.