Programma Lezione 167 di 246 · Modulo 15: Schiaccia, ricostruisci, genera (autoencoder e VAE)
Modulo 15: Schiaccia, ricostruisci, genera (autoencoder e VAE)

Schiaccia e ricostruisci (autoencoder)

Perché è importante Ogni rete finora trasformava un'immagine in un'etichetta. Questo modulo trasforma immagini in immagini nuove. Il primo passo è una rete che schiaccia un'immagine in pochi numeri e la ricostruisce da lì. Quei pochi numeri sono da dove verranno le immagini nuove.

Un autoencoder è fatto di due reti una dopo l'altra. L'encoder schiaccia una cifra di 64 pixel in 16 numeri, il suo codice. Il decoder ricostruisce 64 pixel da quei 16 numeri. L'addestramento chiede una cosa: l'immagine ricostruita deve coincidere con l'originale.

Nessuno gli dice che cosa devono significare i 16 numeri. Deve trovare da solo una descrizione breve di una cifra, perché 16 numeri non possono semplicemente copiare 64 pixel.

Numeri piccolissimi

Una cifra di 64 pixel diventa 16 numeri: una compressione da 4 a 1. Se i pixel ricostruiti sbagliano in media di 0.09, l'errore al quadrato per pixel è circa 0.008. È la dimensione di errore che raggiungerai.

Come si misura la loss

Ogni pixel è un numero da 0 (vuoto) a 1 (inchiostro pieno), quindi l'ultimo layer del decoder dà un punteggio per pixel e la sigmoide lo trasforma in 0..1. La loss è la cross-entropy binaria del Modulo 3, sommata sui 64 pixel e mediata sul batch. Il motore di casa ora la ha come E.bce_with_logits(scores, pictures): prende i punteggi prima della sigmoide, quindi non prende mai il log di 0.

L'output stampa anche le immagini come testo: gen.show(pictures) stampa ogni cifra 8x8 in sfumature dal vuoto all'inchiostro pieno.

Parole e simboli di questa lezione
autoencoder
un encoder che schiaccia un'immagine in pochi numeri e un decoder che la ricostruisce
codice (latente)
i pochi numeri che l'encoder crea da un'immagine
mu, logvar
il centro e il log del quadrato della dispersione di un numero del codice in un VAE
Tocca a te

Scrivi encode(x): un layer denso con ReLU (P['e1']), poi un layer denso verso 16 numeri (P['e2']). Scrivi decode(code) allo stesso modo con P['d1'], ReLU e P['d2'], che restituisce i 64 punteggi prima della sigmoide. Il ciclo di addestramento è già scritto per te. Raggiungi un errore di ricostruzione di test sotto 0.012 per pixel.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.