Gürültü planları: daha düşük bir kayıp, daha kötü örnekler
Neden önemli Kayıp izlediğin sayıdır, bu yüzden onu en düşük yapan şeyi seçmek cazip gelir. Burada bu içgüdü tam olarak yanlış, ve nedenini görmek kaybın neyi ölçtüğünü öğretir.
Aynı 100 adım için iki plan:
- Doğrusal (orijinal DDPM makalesi): beta 0.0001'den 0.02 × (1000 / T)'ye eşit olarak yükselir. Yalnızca 100 adımla abar hızla düşer: adımların çoğu neredeyse saf gürültüdür.
- Kosinüs (Nichol ve Dhariwal, 2021): abar bir kosinüs eğrisini izler, bu yüzden sinyal adımlar boyunca eşit olarak söner.
Kurs ikisini de sarmal üzerinde, her biri 3 tohumla eğitti (difflab.recorded()).
Önce tahmin et: hangi plan daha düşük eğitim kaybıyla biter, ve hangisi sarmala daha iyi oturan örnekler yapar?
Bu dersteki kelimeler ve semboller
- gürültü planı (beta)
- her adımda ne kadar yeni gürültü karıştırıldığı
- abar
- belli sayıda adımdan sonra kalan orijinal sinyalin payı (karekökü x0'ı çarpar)
- eps
- eklenen çan eğrisi gürültüsü; ağ onu tahmin etmeyi öğrenir
- DDPM
- her seferinde yeni gürültüyle her adımdan geri geçerek örneklem almak
- şekil üzerinde, kapsama
- 2B hakemi: gerçek şeklin yakınındaki örneklerin payı, ve yakınında bir örnek bulunan şeklin payı
İki soru için de guess'i "linear" ya da "cosine" olarak ayarla. Sonra table'ı her planın kaydedilmiş 3 tohum üzerindeki ortalama son kaybı ve ortalama şekil üzerinde puanıyla, noisy_share'i de her plan için sinyal varyansının %10'undan azının kaldığı 100 adımın payıyla doldur (abar 0.1'in altında; sinyalin boyutu sqrt(abar), orada yaklaşık 0.32). Son olarak shows'u, aynı iki soruyu tablondan cevaplayarak ayarla. Tahminin yaptığın gibi kalır.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.