Silabus Pelajaran 178 dari 246 · Modul 16: Dua jaringan dalam sebuah game (GANs, opsional)
Modul 16: Dua jaringan dalam sebuah game (GANs, opsional)

Mode collapse, sengaja.

Kenapa ini penting Kegagalan GAN yang paling umum terlihat seperti sukses: setiap sampel tajam dan meyakinkan, tapi semuanya hampir sama. Ini disebut mode collapse (setiap gumpalan adalah "mode" dari data). Kamu tidak bisa memperbaiki apa yang tidak bisa kamu wujudkan, jadi di sini kamu mewujudkannya.

Kenapa ini terjadi: G hanya perlu mengecoh D hari ini. Jika satu blob paling berhasil mengecoh D, G menaruh semuanya di sana. D belajar bahwa blob itu mencurigakan, G pindah ke blob lain, dan keduanya bisa saling mengejar di dalam lingkaran tanpa G harus menyebar.

ganlab.train(...) melatih GAN yang sama dengan pelajaran terakhir dengan salah satu pengaturan ini: noise (berapa banyak angka noise yang didapat G, default 2), d_steps (langkah D per langkah G, 1), g_lr dan d_lr (masing-masing 1e-3), loss, smooth, instance_noise, spectral. Hasil rekaman, ganlab.recorded(), menunjukkan beberapa pengaturan selama 8 seed.

Collapse berarti sedikit blobs DAN titik tajam. Generator yang menyebarkan titik ke mana-mana juga mencakup sedikit blobs, tapi itu kegagalan yang berbeda: ia tidak pernah mempelajari blobs sama sekali.

Kata dan simbol di pelajaran ini
GAN
generative adversarial network: generator dan discriminator yang dilatih saling berlawanan
generator (G)
jaringan yang mengubah noise menjadi sampel
mode collapse
generator hanya membuat beberapa jenis sampel, masing-masing meyakinkan
blobs tercakup, kualitas
hakim cincin: blob dengan lebih dari 2% poin, dan bagian poin pada sebuah blob
Giliranku

Cari pengaturan yang membuat GAN runtuh pada seed 0: paling banyak 3 gumpalan tertutup, dengan kualitas minimal 0.6. Taruh di settings. Supaya setiap percobaan singkat, pelajaran ini melatih 1000 langkah dengan laju belajar 0.002 (sudah diatur untukmu; keruntuhan yang terlihat sama seperti pada 2000 langkah). Ubah hanya pengaturan GAN itu sendiri (noise, d_steps sampai 3, loss, smooth, instance_noise, spectral); seed, langkah, dan laju belajar tetap seperti yang diberikan. Lalu atur looks_like ke huruf yang menggambarkan keruntuhan.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.