Hai lực kéo trên mọi mã (Xem nó)
Vì sao điều này quan trọng Cách sửa là làm cho các mã lấp đầy không gian theo một hình dạng đã biết, để các điểm ngẫu nhiên từ hình dạng đó rơi vào nơi bộ giải mã đã học vẽ. Một autoencoder biến phân (VAE) làm điều đó bằng hai lực kéo trên mọi mã.
Hãy xem cảnh trước. Mỗi ký tự là một chữ số kiểm tra, được vẽ ở nơi 2 số mã của nó đặt nó, dưới dạng chính chữ số đó; các số 7 có màu để bạn có thể theo một nhóm.
- Lực kéo 1, dựng lại tốt: mã của các chữ số khác nhau phải cách xa nhau, nếu không bộ giải mã không thể phân biệt chúng.
- Lực kéo 2, ở gần tâm: mọi mã bị kéo về tâm và bị làm mờ một chút (một đám mây nhỏ, không phải một điểm), để các mã lấp đầy đường cong hình chuông N(0, 1) quanh tâm mà không có khoảng trống.
Lấy mẫu khi đó nghĩa là: rút một điểm từ N(0, 1) và giải mã nó. Vì các mã lấp đầy vùng đó, điểm rơi vào nơi bộ giải mã biết.
Trong VAE bộ mã hóa cho hai thứ cho mỗi số mã: một tâm mu và một độ phân tán, viết dưới dạng logvar (log của bình phương độ phân tán, có thể là bất kỳ số nào). Mã là một lần rút từ N(mu, spread). gen.train_vae huấn luyện một VAE; rebuild_weight và weight đặt độ mạnh của mỗi lực kéo.
Hãy dự đoán trước: nếu bạn bỏ lực kéo 2, điều gì xảy ra với các mã? Nếu bạn bỏ lực kéo 1?
Từ và ký hiệu trong bài học này
- autoencoder
- một bộ mã hóa ép một bức ảnh thành vài con số và một bộ giải mã dựng lại nó
- mã (latent)
- vài con số mà bộ mã hóa tạo ra từ một bức ảnh
- VAE
- autoencoder biến phân: một autoencoder có các mã bị kéo để lấp đầy N(0, 1), nên các mã ngẫu nhiên giải mã thành ảnh mới
- mu, logvar
- tâm và log của bình phương độ phân tán của một số mã trong một VAE
Gán guess cho cả hai lần bỏ là một trong "spread out", "all at the centre" hoặc "no change". Rồi huấn luyện ba VAE 2 số (mỗi cái một hai giây trong trình duyệt) và điền spread với khoảng cách trung bình của các mã kiểm tra tới tâm, và noise với độ phân tán trung bình exp(logvar / 2), cho mỗi cái.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.