पाठ्यक्रम 246 में से पाठ 185 · Module 17: शोर अंदर, तस्वीरें बाहर (diffusion)
Module 17: शोर अंदर, तस्वीरें बाहर (diffusion)

शोर से एक सर्पिल तक (DDPM)

यह क्यों मायने रखता है यह वह पल है जब शोर data बनता है। शुद्ध शोर से शुरू करें और 100 छोटे steps पीछे लें, हर एक network को एक बार इस्तेमाल करते हुए। यहाँ आप जो loop लिखते हैं वह, आकार में, वही है जो आज के image generators में तस्वीरें बनाता है।

x_t से x_(t-1) तक एक step पीछे, DDPM तरीके से:

  1. शोर का अनुमान लगाएँ, और उससे साफ़ अनुमान x0 (पिछला पाठ)।
  2. x0 को उस सीमा तक Clip करें जो असली data की हो सकती है (यहाँ -3 से 3)।
  3. x_t और x0 दिए होने पर, x_(t-1) जहाँ होगा उसके ठीक औसत पर जाएँ:
    mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t
  4. आख़िरी step को छोड़, sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)) फैलाव का नया शोर जोड़ें। (abar_(-1) 1 गिना जाता है।)

clip क्यों? कोर्स ने यह कठिन तरीके से पाया। cosine schedule के आख़िरी कुछ steps पर beta 0.999 तक पहुँचता है, इसलिए एक सादा step अनुमानित शोर में किसी भी त्रुटि को लगभग 30 गुना करता है। clip के बिना, कोर्स के अंक model ने ऐसी तस्वीरें बनाईं जो अंकों से ज़्यादा उलझे pixels के क़रीब थीं (निकटता 4.68)। उसके साथ, 1.09।

इस पाठ के शब्द और चिह्न
noise schedule (beta)
हर step पर कितना नया शोर मिलाया जाता है
abar
कुछ steps के बाद बचा मूल signal का हिस्सा (उसका square root x0 को गुणा करता है)
x0, x_t
साफ़ data, और t steps के शोर के बाद वही data
eps
जोड़ा गया घंटी-वक्र शोर; network इसका अनुमान लगाना सीखता है
DDPM
हर step से पीछे जाकर sampling, हर बार नए शोर के साथ
on shape, coverage
2D जज: असली आकार के पास के samples का हिस्सा, और आकार का वह हिस्सा जिसके पास एक sample है
आपकी बारी

ऊपर के चार steps के ठीक अनुसार step_back(x, eps_pred, t, beta, abar, rng) लिखें (x0 को -3 से 3 तक clip करें, औसत, फिर t = 0 को छोड़ शोर) और sampling loop generate(model, n, rng) जो step 99 पर N(0, 1) शोर से शुरू होकर 0 तक पीछे जाए। सर्पिल पर कम से कम 0.8 और 0.95 coverage वाले samples के साथ पास करें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।