Lehrplan Lektion 177 von 246 · Modul 16: Zwei Netzwerke in einem Spiel (GANs, optional)
Modul 16: Zwei Netzwerke in einem Spiel (GANs, optional)

Das Spiel auf acht Blobs

Warum das wichtig ist Bilder verbergen, was ein GAN falsch macht. Punkte in 2D nicht: du kannst auf einen Blick sehen, welche Teile der Daten der generator gefunden hat und welche er verpasst hat.

Die echten Daten: 8 dichte Blobs auf einem Kreis. Ein guter Generator setzt Punkte auf alle 8 Blobs, etwa gleichmäßig. Der Richter, ganlab.coverage(points), gibt zwei Zahlen aus: blobs covered (ein Blob zählt, wenn er mehr als 2% der Punkte erhält) und quality (der Anteil der Punkte, die auf irgendeinem Blob landen).

Schau dir die Szene an: echte Blobs, dann wo die Punkte eines trainierten Generators landen, dann ein Generator, der zusammengebrochen ist.

Ein Trainingsschritt hat zwei Hälften:

  1. D's Turn. Eine Charge echter Punkte (ganlab.ring(128, rng)) und eine Charge von Fakes. Nimm die Fakes als einfache Zahlen (.data), damit der Schritt von D nicht in G hineinreicht. Loss = BCE(score(real), 1) + BCE(score(fake), 0). Schritt D.
  2. G's Turn. Neues Rauschen, generieren, score mit D, loss = BCE(score, 1): der nicht-sättigende Verlust. Schritt G. Dieser Backward Pass füllte auch D's Gradienten; setze sie zurück auf None, oder sie lecken in D's nächsten Schritt.

GANs nutzen Adam mit seiner ersten Beta bei 0.5 (das Haus Adam nimmt b1). Der Kurs hat gemessen, warum das wichtig ist: mit dem Standardwert 0.9 deckte das gleiche GAN zwischen 1 und 7 Blobs über 5 Seeds ab, mit 0.5 deckte es 7 oder 8 ab.

Wörter und Symbole in dieser Lektion
GAN
generatives adversariales Netzwerk: ein Generator und ein Diskriminator, die gegeneinander trainiert werden
generator (G)
das Netzwerk, das Rauschen in eine Probe verwandelt
sättigender Verlust
G minimiert log(1 - D(G(z))); seine Steigung ist etwa 0, sobald D sicher ist, also hört G auf zu lernen
nicht-sättigender Verlust
G minimiert -log D(G(z)); dasselbe Ziel, ein voller Push sogar wenn D sicher ist
blobs abgedeckt, Qualität
der Ringrichter: Blobs mit mehr als 2% der Punkte und der Anteil der Punkte auf einem Blob
Du bist dran

Schreib den Rumpf der Trainingsschleife: 2000 Schritte (etwa 4 Sekunden im Browser). Bestanden mit mindestens 7 abgedeckten Klecksen und einer Qualität von mindestens 0.5. Schreib die Schleife selbst: ganlab.train ist hier tabu.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.