Kurrikulum Leson 179 van 246 · Module 16: Twee netwerke in 'n speletjie (GANs, opsioneel)
Module 16: Twee netwerke in 'n speletjie (GANs, opsioneel)

Truke wat soms help

Waarom dit saak maak GAN-papers en blogposse lys tienens van truuke op. Die meeste is op een opstelling getoon, dikwels met een seed. Hier toets jy vier van hulle op dieselfde collapse, oor meer as 8 aangegifde seeds, en rapporteer wat jy gemeet het, nie wat jy gelees het nie.

Die vier truuke, elk toegepas op die kollapsende GAN met 8 geraasnommers:

  • Label smoothing: D word dit dat werklike voorbeelde 0.8 werklik is, nie 1 nie, so dit word nooit te seker nie.
  • Instansiegeraas: 'n bietjie geraas word by elke punt wat D sien gevoeg, wat na 0 krimp oor opleiding, sodat reg en vals vroeg daaraan oorvleuel.
  • Spektrale norm: elke D gewigmatriks word gedeel deur sy grootste strekking, so D kan nie te skerp reageer op klein veranderinge nie.
  • Leer-tempo balans: G stadiger as D (g_lr 2.5e-4) of vinniger (g_lr 3e-3).

Gebruik die gees van Module 9: 'n verskil tel net as dit duidelik groter is as die geraas tussen saadpunte. Vergelyk elke truc met die eenvoudige uitvoering saad vir saad (dieselfde saad, gepaard):

  • helped: gemiddelde blobs ten minste 1 hoër EN meer blobs op ten minste 6 van die 8 seeds;
  • hurt: gemiddelde blobs ten minste 1 laer en minder op ten minste 6 seeds, OF gemiddelde kwaliteit ten minste 0.25 laer en laer op ten minste 6 seeds ( 'n generator wat sy blobs behou maar sy punte versprei het nie gehelp word nie);
  • andersins geen duidelike verandering.
Woorde en simbole in hierdie les
GAN
generatiewe teenstrewige netwerk: 'n generator en 'n discriminator wat teen mekaar opgelei is
generator (G)
die netwerk wat geraas in 'n monster verander
blobs gedek, kwaliteit
die ring-regter: blobs met meer as 2% van die punte, en die aandeel van punte op 'n blob
label smoothing
vertrain op werklike etikette van 0.8 in plaas van 1
instansie-geraas
noise wat by alles gevoeg word wat D sien, wat na 0 krimp oor opleiding
spektrale norm
deel elke D gewigmatriks deur sy grootste strekking
Jou beurt

Skryf verdict(trick) wat "helped", "hurt" of "no clear change" uit die opgetekende runs teruggee. Vul dan report met jou oordeel vir elk van die vyf trick runs in.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.