Programma Lezione 169 di 246 · Modulo 15: Schiaccia, ricostruisci, genera (autoencoder e VAE)
Modulo 15: Schiaccia, ricostruisci, genera (autoencoder e VAE)

Due trazioni su ogni codice (Guardalo)

Perché è importante La soluzione è far riempire ai codici lo spazio con una forma nota, così i punti casuali presi da quella forma finiscono dove il decoder ha imparato a disegnare. Un autoencoder variazionale (VAE) lo fa con due trazioni su ogni codice.

Guarda prima la scena. Ogni carattere è una cifra di test, disegnata dove la mettono i suoi 2 numeri di codice, come la cifra stessa; i 7 sono colorati così puoi seguire un gruppo.

  • Trazione 1, ricostruisci bene: i codici di cifre diverse devono restare separati, altrimenti il decoder non sa distinguerle.
  • Trazione 2, resta vicino al centro: ogni codice viene tirato verso il centro e reso un po' sfocato (una piccola nuvola, non un punto), così i codici riempiono la curva a campana N(0, 1) attorno al centro senza buchi.

Campionare allora significa: estrai un punto da N(0, 1) e decodificalo. Siccome i codici riempiono quella regione, il punto finisce in un posto che il decoder conosce.

Nel VAE l'encoder dà due cose per ogni numero del codice: un centro mu e una dispersione, scritta come logvar (il log del quadrato della dispersione, che può essere qualsiasi numero). Il codice è un'estrazione da N(mu, dispersione). gen.train_vae ne addestra uno; rebuild_weight e weight fissano la forza di ogni trazione.

Prima prevedi: se togli la trazione 2, che cosa succede ai codici? Se togli la trazione 1?

Parole e simboli di questa lezione
autoencoder
un encoder che schiaccia un'immagine in pochi numeri e un decoder che la ricostruisce
codice (latente)
i pochi numeri che l'encoder crea da un'immagine
VAE
autoencoder variazionale: un autoencoder i cui codici vengono tirati a riempire N(0, 1), così i codici casuali si decodificano in immagini nuove
mu, logvar
il centro e il log del quadrato della dispersione di un numero del codice in un VAE
Tocca a te

Imposta guess per entrambe le rimozioni su uno tra "spread out", "all at the centre" o "no change". Poi addestra tre VAE a 2 numeri (un secondo o due ciascuno nel browser) e riempi spread con la distanza media dei codici di test dal centro, e noise con la dispersione media exp(logvar / 2), per ciascuno.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.