Programme Leçon 169 sur 246 · Module 15 : Compresser, reconstruire, générer (autoencodeurs et VAE)
Module 15 : Compresser, reconstruire, générer (autoencodeurs et VAE)

Deux tractions sur chaque code (Vois-le)

Pourquoi c'est important La correction consiste à faire remplir l'espace aux codes selon une forme connue, pour que des points au hasard tirés de cette forme tombent là où le décodeur a appris à dessiner. Un autoencodeur variationnel (VAE) le fait avec deux tractions sur chaque code.

Regarde d'abord la scène. Chaque caractère est un chiffre de test, dessiné là où ses 2 nombres de code le placent, sous la forme du chiffre lui-même ; les 7 sont en couleur pour que tu puisses suivre un groupe.

  • Traction 1, bien reconstruire : les codes de chiffres différents doivent rester séparés, sinon le décodeur ne peut pas les distinguer.
  • Traction 2, rester près du centre : chaque code est tiré vers le centre et rendu un peu flou (un petit nuage, pas un point), pour que les codes remplissent la courbe en cloche N(0, 1) autour du centre sans trous.

Échantillonner veut alors dire : tirer un point de N(0, 1) et le décoder. Comme les codes remplissent cette région, le point tombe quelque part que le décodeur connaît.

Dans le VAE, l'encodeur donne deux choses par nombre de code : un centre mu et une dispersion, écrite logvar (le log de la dispersion au carré, qui peut être n'importe quel nombre). Le code est un tirage de N(mu, dispersion). gen.train_vae en entraîne un ; rebuild_weight et weight règlent la force de chaque traction.

Prédis d'abord : si tu retires la traction 2, qu'arrive-t-il aux codes ? Si tu retires la traction 1 ?

Mots et symboles de cette leçon
autoencodeur
un encodeur qui compresse une image en quelques nombres et un décodeur qui la reconstruit
code (latent)
les quelques nombres que l'encodeur fabrique à partir d'une image
VAE
autoencodeur variationnel : un autoencodeur dont les codes sont tirés pour remplir N(0, 1), pour que des codes au hasard se décodent en nouvelles images
mu, logvar
le centre et le log de la dispersion au carré d'un nombre de code dans un VAE
À ton tour

Affecte à guess, pour les deux retraits, une valeur parmi "spread out", "all at the centre" ou "no change". Puis entraîne trois VAE à 2 nombres (une seconde ou deux chacun dans le navigateur) et remplis spread avec la distance moyenne des codes de test au centre, et noise avec la dispersion moyenne exp(logvar / 2), pour chacun.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.