Silabus Pelajaran 173 dari 246 · Modul 15: Squeeze, rebuild, generate (autoencoders dan VAEs)
Modul 15: Squeeze, rebuild, generate (autoencoders dan VAEs)

VAE kamu membuat angka baru

Kenapa ini penting Setiap bagian sudah siap: mu dan logvar dari encoder, trik untuk sampling, rebuild loss dan KL. Masukkan semuanya ke dalam satu training step dan kamu punya model yang membuat angka yang tidak pernah digambar siapapun.

Satu langkah pelatihan, dalam kata-kata:

  1. Enkode satu batch: mu, logvar = model.encode(E.T(x)).
  2. Gambar eps dari N(0, 1) dengan bentuk mu, dan buat kodenya dengan reparameterisation kamu.
  3. Dekode kode ke skor piksel: model.decode_logits(code).
  4. Loss = E.bce_with_logits(scores, x) + E.kl_to_standard(mu, logvar) (versi KL dari mesin rumah kamu).
  5. Mundur, lalu opt.step().

Lalu nilai dengan juri yang sama seperti sebelumnya: kedekatan dan variasi dari 500 digit baru yang diambil dari N(0, 1). Error rebuild akan lebih buruk daripada autoencoder (sekitar 0.03 dibandingkan 0.008). Itu adalah harga dari pull 2, dan itu membeli ruang kode yang bisa kamu ambil sampelnya.

Kata dan simbol di pelajaran ini
autoencoder
encoder yang mengecilkan gambar menjadi beberapa angka dan decoder yang membangunnya kembali
kode (latent)
beberapa angka yang dibuat encoder dari satu gambar
VAE
variational autoencoder: autoencoder yang kode-kodenya ditarik untuk mengisi N(0, 1), jadi kode acak didekode menjadi gambar baru
mu, logvar
pusat dan log dari kuadrat penyebaran kode angka dalam sebuah VAE
reparameterisasi
code = mu + exp(logvar / 2) x eps, dengan eps diambil pertama, jadi gradien mencapai mu dan logvar
kedekatan, variasi
hakim kursus: jarak ke digit riil terdekat, dan bit penyebaran di atas sepuluh digit
Giliranku

Tulis isi loop pelatihan (600 langkah dari 256 gambar). Lulus dengan: error rebuild tes di bawah 0.035, angka baru dengan kedekatan maksimal 1.30 dan variasi minimal 3.0, serta setidaknya 3 nomor kode aktif. Gunakan loop buatanmu sendiri: gen.train_vae dilarang di sini.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.