Müfredat 246 dersinden 179. · Modül 16: Bir oyunda iki ağ (GAN'lar, isteğe bağlı)
Modül 16: Bir oyunda iki ağ (GAN'lar, isteğe bağlı)

Bazen yardım eden hileler

Neden önemli GAN makaleleri ve blog yazıları düzinelerce hile listeler. Çoğu tek bir kurulumda, çoğu zaman tek bir tohumla gösterildi. Burada dördünü aynı çöküş üzerinde, kaydedilmiş 8 tohum üzerinden test ediyorsun, ve okuduğunu değil ölçtüğünü raporluyorsun.

Her biri 8 gürültü sayılı çöken GAN'a uygulanmış dört hile:

  • Etiket yumuşatma: D'ye gerçek örneklerin 1 değil 0.8 gerçek olduğu söylenir, böylece asla fazla emin olmaz.
  • Örnek gürültüsü: D'nin gördüğü her noktaya eğitim boyunca 0'a küçülen biraz gürültü eklenir, böylece gerçek ve sahte başta örtüşür.
  • Spektral norm: her D ağırlık matrisi en büyük esnemesine bölünür, böylece D küçük değişikliklere fazla keskin tepki veremez.
  • Öğrenme oranı dengesi: G D'den yavaş (g_lr 2.5e-4) ya da hızlı (g_lr 3e-3).

Modül 9'un ruhunu kullan: bir fark ancak tohumlar arasındaki gürültüden açıkça büyükse sayılır. Her hileyi düz çalıştırmayla tohum tohum karşılaştır (aynı tohum, eşleştirilmiş):

  • yardım etti: ortalama leke en az 1 fazla VE 8 tohumun en az 6'sında daha çok leke;
  • zarar verdi: ortalama leke en az 1 az ve en az 6 tohumda daha az, YA DA ortalama kalite en az 0.25 düşük ve en az 6 tohumda daha düşük (lekelerini tutan ama noktalarını saçan bir üreticiye yardım edilmemiştir);
  • aksi halde açık bir değişiklik yok.
Bu dersteki kelimeler ve semboller
GAN
üretici çekişmeli ağ: birbirine karşı eğitilen bir üretici ve bir ayırt edici
üretici (G)
gürültüyü bir örneğe çeviren ağ
kapsanan lekeler, kalite
halka hakemi: noktaların %2'sinden fazlasını alan lekeler, ve bir lekeye düşen noktaların payı
etiket yumuşatma
D'yi 1 yerine 0.8'lik gerçek etiketlerle eğitmek
örnek gürültüsü
D'nin gördüğü her şeye eklenen, eğitim boyunca 0'a küçülen gürültü
spektral norm
her D ağırlık matrisini en büyük esnemesine bölmek
Senin sıran

Kaydedilmiş çalıştırmalardan "helped", "hurt" ya da "no clear change" döndüren verdict(trick) yaz. Sonra report'u beş hile çalıştırmasının her biri için kararınla doldur.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.