पाठ्यक्रम 246 में से पाठ 178 · Module 16: एक खेल में दो networks (GANs, वैकल्पिक)
Module 16: एक खेल में दो networks (GANs, वैकल्पिक)

Mode collapse, जानबूझकर

यह क्यों मायने रखता है सबसे आम GAN विफलता सफलता जैसी दिखती है: हर नमूना तीखा और विश्वसनीय है, पर वे सब लगभग एक जैसे हैं। इसे mode collapse कहते हैं (हर blob डेटा का एक "mode" है)। जो आप करवा न सकें उसे ठीक नहीं कर सकते, इसलिए यहाँ आप इसे करवाते हैं।

यह क्यों होता है: G को बस आज के D को धोखा देना है। अगर एक blob D को सबसे अच्छा धोखा दे, तो G सब कुछ वहाँ रखता है। D सीखता है कि वह blob संदिग्ध है, G दूसरे पर कूदता है, और दोनों G के कभी फैले बिना ring के चारों ओर एक-दूसरे का पीछा कर सकते हैं।

ganlab.train(...) पिछले पाठ वाला ही GAN इनमें से किसी भी setting के साथ train करता है: noise (G को कितनी शोर संख्याएँ मिलती हैं, डिफ़ॉल्ट रूप से 2), d_steps (हर G step पर D के steps, 1), g_lr और d_lr (हर एक 1e-3), loss, smooth, instance_noise, spectral। दर्ज runs, ganlab.recorded(), 8 seeds पर कुछ settings दिखाते हैं।

Collapse का मतलब कम blobs और तीखे बिंदु। एक generator जो हर जगह बिंदु बिखेरता है वह भी कम blobs ढकता है, पर वह एक अलग विफलता है: उसने blobs कभी सीखे ही नहीं।

इस पाठ के शब्द और चिह्न
GAN
generative adversarial network: एक generator और एक discriminator जो एक-दूसरे के ख़िलाफ़ train होते हैं
generator (G)
वह network जो शोर को एक नमूने में बदलता है
mode collapse
generator बस कुछ तरह के नमूने बनाता है, हर एक विश्वसनीय
ढके blobs, quality
ring परखने वाला: 2% से ज़्यादा बिंदुओं वाले blobs, और एक blob पर बिंदुओं का हिस्सा
आपकी बारी

ऐसी settings ढूँढें जो seed 0 पर GAN को ढहाएँ: ज़्यादा से ज़्यादा 3 ढके blobs, कम से कम 0.6 quality के साथ। उन्हें settings में रखें। हर कोशिश छोटी रखने के लिए, यह पाठ 0.002 की learning rate पर 1000 steps train करता है (आपके लिए सेट; जो collapse यह दिखाता है वह 2000 steps जैसा ही है)। बस GAN की अपनी settings बदलें (noise, 3 तक d_steps, loss, smooth, instance_noise, spectral); seed, steps और learning rates जैसे दिए वैसे रहते हैं। फिर looks_like को collapse का वर्णन करने वाले अक्षर पर सेट करें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।