Conteúdo do curso Lição 177 de 246 · Módulo 16: Duas redes em um jogo (GANs, opcional)
Módulo 16: Duas redes em um jogo (GANs, opcional)

O jogo nos oito blobs

Por que isso importa Imagens escondem o que uma GAN faz de errado. Pontos em 2D não: você pode ver de uma vez quais partes dos dados o generator encontrou e quais ele perdeu.

Os dados reais: 8 blocos compactos em um círculo. Um bom gerador coloca pontos em todos os 8 blocos, quase igualmente. O juiz, ganlab.coverage(points), dá dois números: blobs covered (um bloco conta quando ele recebe mais de 2% dos pontos) e quality (a parte dos pontos que caem em qualquer bloco).

Assista à cena: blobs reais, depois onde os pontos de um gerador treinado caem, depois um gerador que colapsou.

Um passo de treinamento tem duas metades:

    Vez de
  1. D. Um lote de pontos reais (ganlab.ring(128, rng)) e um lote de falsos. Considere os falsos como números simples (.data) para que o passo de D não alcance G. Loss = BCE(score(real), 1) + BCE(score(fake), 0). Passo D.
  2. Vez de
  3. G. Novo ruído, gerar, pontuar com D, loss = BCE(score, 1): a perda não saturante. Passo G. Esse passo de volta também preencheu os gradientes de D; coloque-os de volta para None, ou eles vazam para o próximo passo de D.

GANs usam Adam com seu primeiro beta em 0.5 (o Adam padrão usa b1). O curso mediu por que isso importa: com o padrão 0.9 a mesma GAN cobriu entre 1 e 7 blobs em 5 seeds, com 0.5 ela cobriu 7 ou 8.

Palavras e símbolos nesta lição
GAN
rede adversarial generativa: um gerador e um discriminador treinados um contra o outro
gerador (G)
a rede que transforma ruído em uma amostra
saturating loss
G minimiza log(1 - D(G(z))); sua inclinação é cerca de 0 uma vez que D está certa, então G para de aprender
perda não saturante
G minimiza -log D(G(z)); mesmo objetivo, um impulso total mesmo quando D tem certeza
blobs cobertos, qualidade
o juiz do anel: blobs com mais de 2% dos pontos, e a parte de pontos em um blob
Sua vez

Escreva o corpo do loop de treino: 2000 passos (cerca de 4 segundos no navegador). Para passar, cubra pelo menos 7 manchas com qualidade de pelo menos 0.5. Escreva o loop você mesmo: ganlab.train está proibido aqui.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.