Truke wat soms help
Waarom dit saak maak GAN-papers en blogposse lys tienens van truuke op. Die meeste is op een opstelling getoon, dikwels met een seed. Hier toets jy vier van hulle op dieselfde collapse, oor meer as 8 aangegifde seeds, en rapporteer wat jy gemeet het, nie wat jy gelees het nie.
Die vier truuke, elk toegepas op die kollapsende GAN met 8 geraasnommers:
- Label smoothing: D word dit dat werklike voorbeelde 0.8 werklik is, nie 1 nie, so dit word nooit te seker nie.
- Instansiegeraas: 'n bietjie geraas word by elke punt wat D sien gevoeg, wat na 0 krimp oor opleiding, sodat reg en vals vroeg daaraan oorvleuel.
- Spektrale norm: elke D gewigmatriks word gedeel deur sy grootste strekking, so D kan nie te skerp reageer op klein veranderinge nie.
- Leer-tempo balans: G stadiger as D (g_lr 2.5e-4) of vinniger (g_lr 3e-3).
Gebruik die gees van Module 9: 'n verskil tel net as dit duidelik groter is as die geraas tussen saadpunte. Vergelyk elke truc met die eenvoudige uitvoering saad vir saad (dieselfde saad, gepaard):
- helped: gemiddelde blobs ten minste 1 hoër EN meer blobs op ten minste 6 van die 8 seeds;
- hurt: gemiddelde blobs ten minste 1 laer en minder op ten minste 6 seeds, OF gemiddelde kwaliteit ten minste 0.25 laer en laer op ten minste 6 seeds ( 'n generator wat sy blobs behou maar sy punte versprei het nie gehelp word nie);
- andersins geen duidelike verandering.
Woorde en simbole in hierdie les
- GAN
- generatiewe teenstrewige netwerk: 'n generator en 'n discriminator wat teen mekaar opgelei is
- generator (G)
- die netwerk wat geraas in 'n monster verander
- blobs gedek, kwaliteit
- die ring-regter: blobs met meer as 2% van die punte, en die aandeel van punte op 'n blob
- label smoothing
- vertrain op werklike etikette van 0.8 in plaas van 1
- instansie-geraas
- noise wat by alles gevoeg word wat D sien, wat na 0 krimp oor opleiding
- spektrale norm
- deel elke D gewigmatriks deur sy grootste strekking
Skryf verdict(trick) wat "helped", "hurt" of "no clear change" uit die opgetekende runs teruggee. Vul dan report met jou oordeel vir elk van die vyf trick runs in.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.