Persifiseer en bou oor (autoencoders)
Hoekom dit saak maak Elke netwerk tot dusver het 'n prentjie in 'n etiket verander. Hierdie module verander prentjies in nuwe prentjies. Die eerste stap is 'n netwerk wat 'n prentjie in 'n paar getalle druk en dit uit daardie getalle herbou. Daardie paar getalle is waar die nuwe prentjies vandaan sal kom.
An autoencoder is twee netwerke agter mekaar. Die encoder druk 'n 64-pixel syfer in 16 nommers, sy code. Die decoder bou 64 pixels uit daardie 16 nommers op. Oefening vra een ding: die herboude prentjie moet by die oorspronklike een pas.
Niemand vertel vir dit wat die 16 nommers moet beteken nie. Dit moet self 'n kort beskrywing van 'n syfer vind, want 16 nommers kan nie sommer 64 pixels kopieer nie.
Klein getalle
A 64-pixel syfer word 16 nommers: 'n druk van 4 tot 1. As die herboue pixels gemiddeld met 0.09 afwyk, is die gekwadrateerde fout per pixel ongeveer 0.008. Dit is die grootte van die fout wat jy sal bereik.
Hoe die verlies gemat moet word
Elke pixel is 'n getal van 0 (leeg) tot 1 (vol ink), so die decoder se laaste laag gee een punt per pixel en die sigmoid verander dit na 0..1. Die verlies is die binary cross-entropy van Module 3, wat oor die 64 pixels opgetel en oor die batch gemiddeld bereken word. Die huis-engine het dit nou as E.bce_with_logits(scores, pictures): dit neem die punte voor die sigmoid, so dit neem nooit die log van 0 nie.
Die uitvoer druk ook prente as teks: gen.show(pictures)druk elke 8x8 syfer in skakerings van leeg tot vol ink.
Woorde en simbole in hierdie les
- autoencoder
- an encoder wat 'n prentjie in 'n paar nommers druk en 'n decoder wat dit weer opbou
- kode (latent)
- die paar nommers wat die encoder uit een prentjie maak
- mu, logvar
- die middelpunt en die logaritme van die gekwadraat van die spreiding van 'n kode-nommer in 'n VAE
Skryf encode(x): 'n dense layer met ReLU (P['e1']), dan 'n dense layer na 16 nommers (P['e2']). Skryf decode(code) op dieselfde manier met P['d1'], ReLU en P['d2'], wat die 64 scores voor die sigmoid teruggee. Die training loop is vir jou geskryf. Bereik 'n test rebuild error onder 0.012 per pixel.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.