शोर जोड़ना, step दर step
यह क्यों मायने रखता है आज की AI कला के पीछे के image generators शोर से उल्टा काम करते हैं। शोर हटाना सीखने के लिए, एक network को पहले ठीक देखना होता है कि शोर कैसे जोड़ा गया। वह आगे का आधा शुद्ध अंकगणित है, और उसका एक shortcut है जो training संभव बनाता है।
एक साफ़ बिंदु x0 लें (एक pixel मान, या 2D में एक बिंदु)। T = 100 steps में से हर एक पर, इसे थोड़ा सिकोड़ें और थोड़ा नया शोर जोड़ें:
x_t = sqrt(1 - beta_t) x_(t-1) + sqrt(beta_t) eps, eps N(0, 1) से निकाला
सूची beta_0 ... beta_99 noise schedule है। दृश्य देखें: बिंदुओं का एक सर्पिल शोर के एक गोल बादल में घुल जाता है।
shortcut
बार-बार सिकोड़ना और घंटी-वक्र शोर जोड़ना कुल के साथ इसे एक बार करने जैसा ही है। step t तक के सारे (1 - beta) कारकों के गुणनफल के लिए abar_t लिखें। तब
x_t = sqrt(abar_t) x0 + sqrt(1 - abar_t) eps
एक बार में: बचा signal sqrt(abar_t) है, शोर का फैलाव sqrt(1 - abar_t)। Training वहाँ चलकर जाने के बजाय किसी भी step पर तुरंत छलाँग लगा सकती है।
छोटी संख्याएँ
हर एक beta = 0.1 वाले दो steps: abar = 0.9 x 0.9 = 0.81। x0 = 1 से बचा signal sqrt(0.81) = 0.9 है और शोर का फैलाव sqrt(0.19) = 0.44। चलकर: step 1 के बाद, 0.949 x 1 जमा 0.316 फैलाव का शोर; step 2 के बाद, सब कुछ फिर 0.949 से सिकुड़ता है और 0.316 फैलाव का नया शोर जुड़ता है। फैलाव वर्गों के रूप में जुड़ते हैं: 0.949^2 x 0.1 + 0.1 = 0.19। वही जवाब।
इस पाठ के शब्द और चिह्न
- noise schedule (beta)
- हर step पर कितना नया शोर मिलाया जाता है
- abar
- कुछ steps के बाद बचा मूल signal का हिस्सा (उसका square root x0 को गुणा करता है)
- x0, x_t
- साफ़ data, और t steps के शोर के बाद वही data
- eps
- जोड़ा गया घंटी-वक्र शोर; network इसका अनुमान लगाना सीखता है
walk(x0, t, beta, rng) (एक बार में एक step, step 0 से step t तक t + 1 steps) और jump(x0, t, abar, eps) (shortcut) लिखें। फिर बिंदु (1.0, -0.5) की 20000 copies को दोनों तरह step 40 तक शोर दें और stats को हर version के औसत और फैलाव (हर निर्देशांक पर) से भरें, उसके बगल में जो schedule कहता है कि वे होने चाहिए।
इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें
यह अभ्यास जल्द खुलेगा
इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।
यह ब्राउज़र learn.floati.life के लिए कुकी रोक रहा है, इसलिए यहाँ पूरे किए गए पाठ क्रम से नहीं खुल सकते। इस साइट के लिए कुकी की अनुमति दें और फिर से लोड करें।