Dos tirones sobre cada código (Míralo)
Por qué importa El arreglo es hacer que los códigos llenen el espacio con una forma conocida, para que los puntos aleatorios de esa forma caigan donde el decodificador ha aprendido a dibujar. Un autocodificador variacional (VAE) lo hace con dos tirones sobre cada código.
Mira primero la escena. Cada carácter es un dígito de prueba, dibujado donde lo ponen sus 2 números de código, como el propio dígito; los 7 van en color para que puedas seguir un grupo.
- Tirón 1, reconstruir bien: los códigos de dígitos distintos deben mantenerse separados, o el decodificador no puede distinguirlos.
- Tirón 2, quedarse cerca del centro: cada código se empuja hacia el centro y se hace un poco borroso (una nubecita, no un punto), para que los códigos llenen la campana N(0, 1) alrededor del centro sin huecos.
Muestrear significa entonces: saca un punto de N(0, 1) y decodifícalo. Como los códigos llenan esa región, el punto cae en algún sitio que el decodificador conoce.
En el VAE el codificador da dos cosas por cada número del código: un centro mu y una dispersión, escrita como logvar (el log de la dispersión al cuadrado, que puede ser cualquier número). El código es una muestra de N(mu, dispersión). gen.train_vae entrena uno; rebuild_weight y weight fijan la fuerza de cada tirón.
Predice primero: si quitas el tirón 2, ¿qué les pasa a los códigos? ¿Y si quitas el tirón 1?
Palabras y símbolos de esta lección
- autocodificador
- un codificador que comprime una imagen en unos pocos números y un decodificador que la reconstruye
- código (latente)
- los pocos números que el codificador saca de una imagen
- VAE
- autocodificador variacional: un autocodificador cuyos códigos se empujan para llenar N(0, 1), así que los códigos aleatorios se decodifican en imágenes nuevas
- mu, logvar
- el centro y el log de la dispersión al cuadrado de un número del código en un VAE
Pon guess para las dos eliminaciones a uno de "spread out" (se dispersan), "all at the centre" (todos en el centro) o "no change" (sin cambio). Luego entrena tres VAE de 2 números (un segundo o dos cada uno en el navegador) y rellena spread con la distancia media de los códigos de prueba al centro, y noise con la dispersión media exp(logvar / 2), para cada uno.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.