Müfredat 246 dersinden 175. · Modül 15: Sıkıştır, yeniden kur, üret (otokodlayıcılar ve VAE'ler)
Modül 15: Sıkıştır, yeniden kur, üret (otokodlayıcılar ve VAE'ler)

Kapı sınavı: tek bir rakam çizen VAE (yapay zekâ kapalı)

Neden önemli Bu başarısızlığın bir adı var, sonsal çöküş, ve ileride kuracağın her üretken modelin onun bir türüne çarpabileceği kadar yaygın. Burada onu tek başına teşhis edip düzeltiyorsun.

Kapı sınavı kuralları: yapay zekâ öğretmeni kapalı. Başlangıç kodunu çalıştır ve bozuk VAE'nin ne yaptığına bak. gen.train_vae(...) ile istediğin kadar varyasyon eğitebilir ve onları gen.judge, active_units() ve yeniden kurma hatasıyla değerlendirebilirsin.

Her birinin denenmesi için bir nedeni olan üç ayar var:

  • weight: çekiş 2'nin (KL'nin) gücü, varsayılan olarak 1.
  • warmup_steps: weight 0 ile başla ve onu bu kadar adım boyunca eşit olarak weight'e yükselt (eğitim 600 adımdır).
  • free_bits: kod sayısı başına bir taban. KL'si tabanın altında olan bir sayı tabanı öder ve merkeze doğru hiç itilmez, böylece model onu kullanmayı göze alabilir.

İnternette ağırlığı ısıtmanın standart çözüm olduğunu okuyacaksın. Burada öyle olup olmadığını bul.

Kontrol düzeltmeni yeni bir tohumla yeniden eğitir ve onu yalnızca dördü de geçerliyse geçirir: 0.035'in altında test yeniden kurma hatası, en az 3 aktif kod sayısı, yakınlığı en fazla 1.33 ve çeşitliliği en az 3.0 olan yeni rakamlar.

Bu dersteki kelimeler ve semboller
kod (gizil)
kodlayıcının bir resimden yaptığı birkaç sayı
VAE
varyasyonel otokodlayıcı: kodları N(0, 1)'i doldurmak için çekilen bir otokodlayıcı, böylece rastgele kodlar yeni resimlere çözülür
mu, logvar
bir VAE'de bir kod sayısının merkezi ve kare yayılımının logaritması
yakınlık, çeşitlilik
kursun hakemi: en yakın gerçek rakama uzaklık, ve on rakam üzerindeki yayılımın bit cinsinden değeri
sonsal çöküş
kodlarının hepsi N(0, 1) olan ve hiçbir şey taşımayan bir VAE; tek bir ortalama resim çizer
Senin sıran

diagnosis'i tek bir harfe ve fix'i çöküşü iyileştiren gen.train_vae için bir ayarlar sözlüğüne ayarla.

AI kapalı: bu ödevde eğitmen, ipucu veya çözümlü örnek yok. Sadece kendi düşüncen.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.