Dal rumore a una spirale (DDPM)
Perché è importante Questo è il momento in cui il rumore diventa dati. Parti da rumore puro e fai 100 piccoli passi indietro, ognuno usando la rete una volta. Il ciclo che scrivi qui ha, nella forma, lo stesso schema di quello che disegna le immagini nei generatori di oggi.
Un passo indietro da x_t a x_(t-1), alla maniera di DDPM:
- Prevedi il rumore, e da lì la stima pulita x0 (lezione precedente).
- Taglia x0 all'intervallo che i dati veri possono avere (qui da -3 a 3).
- Spostati alla media esatta di dove starebbe x_(t-1), dati x_t e x0:
mean = (sqrt(abar_(t-1)) beta_t / (1 - abar_t)) x0 + (sqrt(1 - beta_t) (1 - abar_(t-1)) / (1 - abar_t)) x_t - Aggiungi rumore nuovo di dispersione
sqrt(beta_t (1 - abar_(t-1)) / (1 - abar_t)), tranne all'ultimo passo. (abar_(-1) conta come 1.)
Perché il taglio? Il corso l'ha scoperto a sue spese. Negli ultimi passi del programma coseno beta arriva a 0.999, quindi un passo semplice moltiplica circa 30 volte qualsiasi errore nel rumore previsto. Senza il taglio, il modello di cifre del corso disegnava immagini più vicine a pixel mescolati che a cifre (vicinanza 4.68). Con il taglio, 1.09.
Parole e simboli di questa lezione
- programma di rumore (beta)
- quanto rumore nuovo viene mescolato a ogni passo
- abar
- la quota del segnale originale che resta dopo un certo numero di passi (la sua radice quadrata moltiplica x0)
- x0, x_t
- i dati puliti, e gli stessi dati dopo t passi di rumore
- eps
- il rumore a campana che è stato aggiunto; la rete impara a prevederlo
- DDPM
- campionare tornando indietro attraverso ogni passo, con rumore nuovo ogni volta
- sulla forma, copertura
- il giudice 2D: quota di campioni vicini alla forma vera, e quota della forma con un campione vicino
Scrivi step_back(x, eps_pred, t, beta, abar, rng) esattamente come i quattro passi sopra (taglia x0 tra -3 e 3, la media, poi il rumore tranne a t = 0) e il ciclo di campionamento generate(model, n, rng) che parte da rumore N(0, 1) al passo 99 e torna indietro fino a 0. Superi con campioni almeno a 0.8 sulla spirale e copertura 0.95.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.