पाठ्यक्रम 246 में से पाठ 182 · Module 17: शोर अंदर, तस्वीरें बाहर (diffusion)
Module 17: शोर अंदर, तस्वीरें बाहर (diffusion)

शोर जोड़ना, step दर step

यह क्यों मायने रखता है आज की AI कला के पीछे के image generators शोर से उल्टा काम करते हैं। शोर हटाना सीखने के लिए, एक network को पहले ठीक देखना होता है कि शोर कैसे जोड़ा गया। वह आगे का आधा शुद्ध अंकगणित है, और उसका एक shortcut है जो training संभव बनाता है।

एक साफ़ बिंदु x0 लें (एक pixel मान, या 2D में एक बिंदु)। T = 100 steps में से हर एक पर, इसे थोड़ा सिकोड़ें और थोड़ा नया शोर जोड़ें:

x_t = sqrt(1 - beta_t) x_(t-1) + sqrt(beta_t) eps, eps N(0, 1) से निकाला

सूची beta_0 ... beta_99 noise schedule है। दृश्य देखें: बिंदुओं का एक सर्पिल शोर के एक गोल बादल में घुल जाता है।

shortcut

बार-बार सिकोड़ना और घंटी-वक्र शोर जोड़ना कुल के साथ इसे एक बार करने जैसा ही है। step t तक के सारे (1 - beta) कारकों के गुणनफल के लिए abar_t लिखें। तब

x_t = sqrt(abar_t) x0 + sqrt(1 - abar_t) eps

एक बार में: बचा signal sqrt(abar_t) है, शोर का फैलाव sqrt(1 - abar_t)। Training वहाँ चलकर जाने के बजाय किसी भी step पर तुरंत छलाँग लगा सकती है।

छोटी संख्याएँ

हर एक beta = 0.1 वाले दो steps: abar = 0.9 x 0.9 = 0.81। x0 = 1 से बचा signal sqrt(0.81) = 0.9 है और शोर का फैलाव sqrt(0.19) = 0.44। चलकर: step 1 के बाद, 0.949 x 1 जमा 0.316 फैलाव का शोर; step 2 के बाद, सब कुछ फिर 0.949 से सिकुड़ता है और 0.316 फैलाव का नया शोर जुड़ता है। फैलाव वर्गों के रूप में जुड़ते हैं: 0.949^2 x 0.1 + 0.1 = 0.19। वही जवाब।

इस पाठ के शब्द और चिह्न
noise schedule (beta)
हर step पर कितना नया शोर मिलाया जाता है
abar
कुछ steps के बाद बचा मूल signal का हिस्सा (उसका square root x0 को गुणा करता है)
x0, x_t
साफ़ data, और t steps के शोर के बाद वही data
eps
जोड़ा गया घंटी-वक्र शोर; network इसका अनुमान लगाना सीखता है
आपकी बारी

walk(x0, t, beta, rng) (एक बार में एक step, step 0 से step t तक t + 1 steps) और jump(x0, t, abar, eps) (shortcut) लिखें। फिर बिंदु (1.0, -0.5) की 20000 copies को दोनों तरह step 40 तक शोर दें और stats को हर version के औसत और फैलाव (हर निर्देशांक पर) से भरें, उसके बगल में जो schedule कहता है कि वे होने चाहिए।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।