Conteúdo do curso Lição 169 de 246 · Módulo 15: Comprimir, reconstruir, gerar (autoencoders e VAEs)
Módulo 15: Comprimir, reconstruir, gerar (autoencoders e VAEs)

Dois puxões em cada código (Veja isso)

Por que isso importa A correção é fazer os códigos preencherem o espaço em uma forma conhecida, para que pontos aleatórios dessa forma caiam onde o decoder aprendeu a desenhar. Um variational autoencoder (VAE) faz isso com dois pulls em cada código.

Assista à cena primeiro. Cada caractere é um dígito de teste, desenhado onde seus 2 números de código o colocam, como o próprio dígito; os 7s estão coloridos para você poder seguir um grupo.

  • Puxe 1, reconstrua bem: códigos de dígitos diferentes devem ficar separados, ou o decoder não consegue diferenciá-los.
  • Puxe 2, fique perto do centro: cada código é puxado em direção ao centro e fica um pouco borrado (uma pequena nuvem, não um ponto), então os códigos preenchem a curva de sino N(0, 1) ao redor do centro sem lacunas.

Sampling então significa: extrair um ponto de N(0, 1) e decodificá-lo. Como os códigos preenchem essa região, o ponto cai em algum lugar que o decoder conhece.

No VAE o encoder fornece duas coisas por número de código: um centro mu e um desvio, escrito como logvar (o log do desvio ao quadrado, que pode ser qualquer número). O código é um sorteio de N(mu, spread). gen.train_vae treina um; rebuild_weight e weight definem a força de cada puxada.

Preveja primeiro: se você remover pull 2, o que acontece com os códigos? Se você remover pull 1?

Palavras e símbolos nesta lição
autoencoder
um encoder que comprime uma imagem em alguns números e um decoder que a reconstrói
code (latente)
os poucos números que o encoder faz de uma imagem
VAE
variational autoencoder: um autoencoder cujos códigos são puxados para preencher N(0, 1), então códigos aleatórios decodificam para novas imagens
mu, logvar
o centro e o log da dispersão ao quadrado de um número de código em um VAE
Sua vez

Defina guess para ambas as remoções como uma de "spread out", "all at the centre" ou "no change". Depois treine três VAEs de 2 números (um ou dois segundos cada no navegador) e preencha spread com a distância média dos códigos de teste do centro, e noise com o spread médio exp(logvar / 2), para cada um.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.