Müfredat 246 dersinden 186. · Modül 17: Gürültü girer, resim çıkar (difüzyon)
Modül 17: Gürültü girer, resim çıkar (difüzyon)

Gürültü planları: daha düşük bir kayıp, daha kötü örnekler

Neden önemli Kayıp izlediğin sayıdır, bu yüzden onu en düşük yapan şeyi seçmek cazip gelir. Burada bu içgüdü tam olarak yanlış, ve nedenini görmek kaybın neyi ölçtüğünü öğretir.

Aynı 100 adım için iki plan:

  • Doğrusal (orijinal DDPM makalesi): beta 0.0001'den 0.02 × (1000 / T)'ye eşit olarak yükselir. Yalnızca 100 adımla abar hızla düşer: adımların çoğu neredeyse saf gürültüdür.
  • Kosinüs (Nichol ve Dhariwal, 2021): abar bir kosinüs eğrisini izler, bu yüzden sinyal adımlar boyunca eşit olarak söner.

Kurs ikisini de sarmal üzerinde, her biri 3 tohumla eğitti (difflab.recorded()).

Önce tahmin et: hangi plan daha düşük eğitim kaybıyla biter, ve hangisi sarmala daha iyi oturan örnekler yapar?

Bu dersteki kelimeler ve semboller
gürültü planı (beta)
her adımda ne kadar yeni gürültü karıştırıldığı
abar
belli sayıda adımdan sonra kalan orijinal sinyalin payı (karekökü x0'ı çarpar)
eps
eklenen çan eğrisi gürültüsü; ağ onu tahmin etmeyi öğrenir
DDPM
her seferinde yeni gürültüyle her adımdan geri geçerek örneklem almak
şekil üzerinde, kapsama
2B hakemi: gerçek şeklin yakınındaki örneklerin payı, ve yakınında bir örnek bulunan şeklin payı
Senin sıran

İki soru için de guess'i "linear" ya da "cosine" olarak ayarla. Sonra table'ı her planın kaydedilmiş 3 tohum üzerindeki ortalama son kaybı ve ortalama şekil üzerinde puanıyla, noisy_share'i de her plan için sinyal varyansının %10'undan azının kaldığı 100 adımın payıyla doldur (abar 0.1'in altında; sinyalin boyutu sqrt(abar), orada yaklaşık 0.32). Son olarak shows'u, aynı iki soruyu tablondan cevaplayarak ayarla. Tahminin yaptığın gibi kalır.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.