पाठ्यक्रम 246 में से पाठ 167 · Module 15: दबाएँ, फिर बनाएँ, बनाएँ नया (autoencoders और VAEs)
Module 15: दबाएँ, फिर बनाएँ, बनाएँ नया (autoencoders और VAEs)

दबाएँ और फिर बनाएँ (autoencoders)

यह क्यों मायने रखता है अब तक हर network ने एक तस्वीर को एक label में बदला। यह module तस्वीरों को नई तस्वीरों में बदलता है। पहला कदम एक network है जो एक तस्वीर को कुछ संख्याओं में दबाता है और उनसे उसे फिर बनाता है। वे कुछ संख्याएँ ही वह जगह हैं जहाँ से नई तस्वीरें आएँगी।

एक autoencoder पीठ से पीठ दो networks है। encoder एक 64-pixel अंक को 16 संख्याओं में दबाता है, उसका code। decoder उन 16 संख्याओं से 64 pixels फिर बनाता है। Training एक चीज़ माँगती है: फिर बनी तस्वीर मूल से मेल खाए।

कोई उसे नहीं बताता कि 16 संख्याओं का क्या मतलब होना चाहिए। उसे ख़ुद एक अंक का एक छोटा वर्णन ढूँढना होता है, क्योंकि 16 संख्याएँ बस 64 pixels copy नहीं कर सकतीं।

छोटी संख्याएँ

एक 64-pixel अंक 16 संख्याएँ बनता है: 4 से 1 का दबाव। अगर फिर बने pixels औसतन 0.09 से ग़लत हैं, हर pixel की squared त्रुटि लगभग 0.008 है। आप उसी आकार की त्रुटि तक पहुँचेंगे।

loss कैसे मापा जाता है

हर pixel 0 (ख़ाली) से 1 (पूरी स्याही) तक की एक संख्या है, इसलिए decoder की आख़िरी layer हर pixel का एक अंक देती है और sigmoid उसे 0..1 में बदलता है। loss Module 3 का binary cross-entropy है, 64 pixels पर जोड़ा और batch पर औसत। घर के engine में अब यह E.bce_with_logits(scores, pictures) के रूप में है: यह sigmoid से पहले के अंक लेता है, इसलिए यह कभी 0 का log नहीं लेता।

output तस्वीरों को text के रूप में भी print करता है: gen.show(pictures) हर 8x8 अंक को ख़ाली से पूरी स्याही तक के रंगों में print करता है।

इस पाठ के शब्द और चिह्न
autoencoder
एक encoder जो एक तस्वीर को कुछ संख्याओं में दबाता है और एक decoder जो उसे फिर बनाता है
code (latent)
वे कुछ संख्याएँ जो encoder एक तस्वीर से बनाता है
mu, logvar
एक VAE में एक code संख्या का केंद्र और उसके squared फैलाव का log
आपकी बारी

encode(x) लिखें: ReLU के साथ एक dense layer (P['e1']), फिर 16 संख्याओं तक एक dense layer (P['e2'])। decode(code) उसी तरह P['d1'], ReLU और P['d2'] से लिखें, sigmoid से पहले के 64 अंक लौटाते हुए। training loop आपके लिए लिखा है। हर pixel 0.012 से कम की test rebuild त्रुटि तक पहुँचें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।