Lehrplan Lektion 184 von 246 · Modul 17: Rauschen rein, Bilder raus (Diffusion)
Modul 17: Rauschen rein, Bilder raus (Diffusion)

Lerne das Rauschen vorherzusagen

Warum das wichtig ist Das ganze Trainingsrezept eines Diffusionsmodells passt in fünf Zeilen, und es ist einfache Regression: Zeig dem Netz einen verrauschten Punkt und den Schritt, frag nach dem Rauschen. Kein Spiel, kein zweites Netz.

Ein Trainingsschritt:

  1. Nimm einen Batch echter Punkte x0 und für jeden einen zufälligen Schritt t und frisches Rauschen eps.
  2. Spring mit der Abkürzung zu x_t.
  3. Frag das Netz nach dem Rauschen: model.predict(x_t, t).
  4. Verlust = Mittelwert von (vorhergesagtes Rauschen - eps) zum Quadrat.
  5. Rückwärts, Schritt.

Tipp die Kurve

Schätze vor dem Lauf den Verlust zu drei Zeitpunkten: über die ersten 10 Schritte, um Schritt 300 und um Schritt 3000. Zwei Anker: Ein Netz, das immer 0 vorhersagt, erreicht genau 1 (das Rauschen hat Streuung 1), und ein perfektes Netz kann 0 nicht erreichen, weil das Rauschen bei sehr verrauschten Schritten leicht zu erraten ist, bei fast sauberen Schritten aber fast unmöglich.

Wo das Feld heute steht Das Rauschen vorherzusagen ist, bis auf einen Faktor, dasselbe wie den Score zu schätzen: die Richtung, in der die verrauschten Daten wahrscheinlicher werden (Song und Ermon 2019; Ho et al. 2020). Darum zeigen die Pfeile nach Hause. Echte Bildgeneratoren fügen den Pixeln kein Rauschen hinzu: Sie pressen jedes Bild zuerst mit einem Autoencoder zusammen, wie in Modul 15, und lassen die Diffusion auf den kleinen Codes laufen (latente Diffusion, Rombach et al. 2022). Alles in diesem Modul lässt sich übertragen; nur der Raum ändert sich.

Wörter und Symbole in dieser Lektion
Diffusionsmodell
ein Netz, das trainiert wird, Rauschen Stück für Stück zu entfernen; rückwärts aus reinem Rauschen laufen gelassen, erzeugt es
x0, x_t
die sauberen Daten, und dieselben Daten nach t Rauschschritten
eps
das hinzugefügte glockenförmige Rauschen; das Netz lernt, es vorherzusagen
auf der Form, Abdeckung
der 2D-Richter: Anteil der Stichproben nahe der echten Form, und Anteil der Form mit einer Stichprobe in der Nähe
Du bist dran

Fülle my_guess, dann schreib den Rumpf der Schleife (3000 Schritte mit 256 Spiralpunkten; difflab.shape('spiral', 256, rng), difflab.add_noise). Häng den Verlust jedes Schritts an losses an. Bestanden mit einem Endverlust unter 0.40 und Stichproben mit mindestens 0.75 auf der Form.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.