Programma Lezione 185 di 246 · Modulo 17: Dentro il rumore, fuori le immagini (diffusione)
Modulo 17: Dentro il rumore, fuori le immagini (diffusione)

Dal rumore a una spirale (DDPM)

Perché è importante Questo è il momento in cui il rumore diventa dati. Parti da rumore puro e fai 100 piccoli passi indietro, ognuno usando la rete una volta. Il ciclo che scrivi qui ha, nella forma, lo stesso schema di quello che disegna le immagini nei generatori di oggi.

Un passo indietro da x_t a x_(t-1), alla maniera di DDPM:

  1. Prevedi il rumore, e da lì la stima pulita x0 (lezione precedente).
  2. Taglia x0 all'intervallo che i dati veri possono avere (qui da -3 a 3).
  3. Spostati alla media esatta di dove starebbe x_(t-1), dati x_t e x0:
    mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t
  4. Aggiungi rumore nuovo di dispersione sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)), tranne all'ultimo passo. (abar_(-1) conta come 1.)

Perché il taglio? Il corso l'ha scoperto a sue spese. Negli ultimi passi del programma coseno beta arriva a 0.999, quindi un passo semplice moltiplica circa 30 volte qualsiasi errore nel rumore previsto. Senza il taglio, il modello di cifre del corso disegnava immagini più vicine a pixel mescolati che a cifre (vicinanza 4.68). Con il taglio, 1.09.

Parole e simboli di questa lezione
programma di rumore (beta)
quanto rumore nuovo viene mescolato a ogni passo
abar
la quota del segnale originale che resta dopo un certo numero di passi (la sua radice quadrata moltiplica x0)
x0, x_t
i dati puliti, e gli stessi dati dopo t passi di rumore
eps
il rumore a campana che è stato aggiunto; la rete impara a prevederlo
DDPM
campionare tornando indietro attraverso ogni passo, con rumore nuovo ogni volta
sulla forma, copertura
il giudice 2D: quota di campioni vicini alla forma vera, e quota della forma con un campione vicino
Tocca a te

Scrivi step_back(x, eps_pred, t, beta, abar, rng) esattamente come i quattro passi sopra (taglia x0 tra -3 e 3, la media, poi il rumore tranne a t = 0) e il ciclo di campionamento generate(model, n, rng) che parte da rumore N(0, 1) al passo 99 e torna indietro fino a 0. Superi con campioni almeno a 0.8 sulla spirale e copertura 0.95.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.