Bir oyunda iki ağ
Neden önemli Bir VAE resimleri yeniden kurmayı öğrenir ve bunun bedelini bulanıklıkla öder. Bir GAN (üretici çekişmeli ağ) hiçbir şeyi yeniden kurmaz. Bir ağ resim yapar, ikincisi onları değerlendirir, ve her biri diğerine karşı eğitilir. İnsanları kandıran ilk üretilmiş yüzlerin arkasındaki fikir budur.
İki oyuncu:
- Üretici G rastgele z gürültüsünü bir örneğe, G(z)'ye çevirir.
- Ayırt edici D bir örneğe bakar ve bir puan (bir logit) verir. sigmoid(score) onun örneğin gerçek olduğuna dair inancıdır.
D her sınıflandırıcı gibi eğitilir: 1 etiketli gerçek örnekler, 0 etiketli üretilmiş olanlar, ikili çapraz entropi. G, D'yi kandırmak için eğitilir. G'nin kaybını yazmanın iki yolu var, ve fark eğitimin hiç başlayıp başlamayacağına karar verir:
- Doyan (orijinal makalenin oyunu): G, log(1 - D(G(z)))'yi küçültür.
- Doymayan: G, -log D(G(z))'yi küçültür. Aynı hedef, "D'ye gerçek dedir".
Küçük sayılar: eğimler
D'nin bir sahte üzerindeki puanına f de, yani D(G(z)) = sigmoid(f). Her kaybın f'ye göre eğimi şudur:
doyan: -sigmoid(f) doymayan: sigmoid(f) - 1
Eğitimin başında D sahteleri kolayca fark eder: D(G(z)) = 0.001. Doyan eğim o zaman -0.001'dir, öğrenilecek neredeyse hiçbir şey. Doymayan eğim -0.999'dur, tam bir itiş. Teori bu. Kurs bunun ne zaman önemli olduğunu ölçtü: sağlıklı halkada iki kayıp da eğitir (kaydedilmiş 8 tohumun hepsi); D'nin kazandığı bir ayarda doyan kayıp hiçbir şey öğrenmez.
Buradaki bütün kayıplar log-sum-exp hileleri kullanır, böylece hiçbir logaritma asla 0 görmez: log(sigmoid(f)) = -softplus(-f) ve log(1 - sigmoid(f)) = -softplus(f), softplus(a) = log(1 + e^a), np.logaddexp(0, a) olarak hesaplanır.
Bu dersteki kelimeler ve semboller
- GAN
- üretici çekişmeli ağ: birbirine karşı eğitilen bir üretici ve bir ayırt edici
- üretici (G)
- gürültüyü bir örneğe çeviren ağ
- ayırt edici (D)
- bir örneği gerçek ya da üretilmiş olarak puanlayan ağ
- doyan kayıp
- G, log(1 - D(G(z)))'yi küçültür; D emin olunca eğimi yaklaşık 0'dır, bu yüzden G öğrenmeyi bırakır
Üç kaybı bir puan batch'i üzerinden ortalamalar olarak yaz: d_loss(real_scores, fake_scores), g_loss_saturating(fake_scores) ve g_loss_nonsat(fake_scores). Sonra slopes'u doldur: 0.001, 0.1 ve 0.5'teki her D(G(z)) için her üretici kaybının sahtenin puanına göre eğimi (tek bir örnek için).
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.