Lehrplan Lektion 182 von 246 · Modul 17: Rauschen rein, Bilder raus (Diffusion)
Modul 17: Rauschen rein, Bilder raus (Diffusion)

Rauschen hinzufügen, Schritt für Schritt

Warum das wichtig ist Die Bildgeneratoren hinter der heutigen KI-Kunst arbeiten rückwärts von Rauschen. Um zu lernen, Rauschen zu entfernen, muss ein Netzwerk zuerst genau sehen, wie das Rauschen hinzugefügt wurde. Diese vordere Hälfte ist reine Arithmetik und sie hat eine Abkürzung, die das Training ermöglicht.

Nimm einen sauberen Punkt x0 (einen Pixelwert oder einen Punkt in 2D). Verkleinere ihn bei jedem von T = 100 steps ein wenig und füge ein wenig frisches noise hinzu:

x_t = sqrt(1 - beta_t) x_(t-1) + sqrt(beta_t) eps, mit eps aus N(0, 1)

Die Liste beta_0 ... beta_99 ist der noise schedule. Schau dir die Szene an: eine Spirale aus Punkten löst sich in eine runde Wolke aus Rauschen auf.

Die Abkürzung

Das wiederholte Verkleinern und Hinzufügen von Glockenkurvenrauschen ist dasselbe wie es einmal mit den Gesamtsummen zu tun. Schreibe abar_t für das Produkt aller (1 - beta) Faktoren bis Schritt t. Dann

x_t = sqrt(abar_t) x0 + sqrt(1 - abar_t) eps

Auf einen Schlag: das Signal ist sqrt(abar_t), die Rauschspreizung ist sqrt(1 - abar_t). Das Training kann sofort zu jedem Schritt springen, anstatt dorthin zu laufen.

Kleine Zahlen

Zwei Schritte mit beta = 0.1 jeweils: abar = 0.9 x 0.9 = 0.81. Von x0 = 1 bleibt das Signal sqrt(0.81) = 0.9 und die Rauschausbreitung ist sqrt(0.19) = 0.44. Gehen: nach Schritt 1, 0.949 x 1 plus Rauschen mit Ausbreitung 0.316; nach Schritt 2, alles schrumpft wieder um 0.949 und frisches Rauschen mit Ausbreitung 0.316 kommt hinzu. Die Ausbreitungen addieren sich als Quadrate: 0.949^2 x 0.1 + 0.1 = 0.19. Gleiche Antwort.

Wörter und Symbole in dieser Lektion
noise schedule (beta)
wie viel frisches Rauschen wird in jedem Schritt gemischt
abar
der Anteil des ursprünglichen Signals, der nach einer Anzahl von steps übrig bleibt (seine Wurzel multipliziert x0)
x0, x_t
die sauberen Daten und dieselben Daten nach t Schritten von Rauschen
eps
das Glockenkurven-Rauschen, das hinzugefügt wurde; das Netzwerk lernt es vorherzusagen
Du bist dran

Schreibe walk(x0, t, beta, rng) (einen Schritt nach dem anderen, t + 1 Schritte von Schritt 0 bis Schritt t) und jump(x0, t, abar, eps) (die Abkürzung). Füge dann 20000 Kopien des Punktes (1.0, -0.5) zu Schritt 40 in beide Richtungen hinzu und fülle stats mit dem Mittelwert und der Streuung jeder Version (pro Koordinate) neben dem, was der Zeitplan sagt, dass sie sein sollten.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.