Zwei Züge bei jedem Code (Sieh es dir an)
Warum das wichtig ist Die Lösung besteht darin, die Codes so zu gestalten, dass sie den Raum in einer bekannten Form ausfüllen. So landen zufällige Punkte aus dieser Form dort, wo der Decoder gelernt hat zu zeichnen. Ein variational autoencoder (VAE) macht das mit zwei Zügen auf jedem Code.
Schau dir zuerst die Szene an. Jeder Charakter ist eine Testziffer, gezeichnet dort, wo seine 2 Codenummern sie platzieren, als die Ziffer selbst; die 7s sind farbig, damit du einer Gruppe folgen kannst.
- Ziehe 1, baue gut wieder auf: Codes mit verschiedenen Ziffern müssen getrennt bleiben, sonst kann der Decoder sie nicht unterscheiden.
- Ziehe 2, bleibe nah am Zentrum: jeder Code wird zum Zentrum gezogen und ein wenig unscharf gemacht (eine kleine Wolke, kein Punkt), sodass die Codes die Glockenkurve N(0, 1) um das Zentrum ohne Lücken füllen.
Sampling bedeutet dann: ziehe einen Punkt aus N(0, 1) und dekodiere ihn. Da die Codes diese Region füllen, landet der Punkt irgendwo, was der Decoder kennt.
Im VAE gibt der encoder zwei Dinge pro Codenummer: ein Zentrum mu und eine Streuung, geschrieben als logvar (der Logarithmus der quadrierten Streuung, was jede Zahl sein kann). Der Code ist eine Ziehung aus N(mu, spread). gen.train_vae trainiert eine; rebuild_weight und weight setzen die Stärke jedes Zugs.
Vorhersage zuerst: wenn du pull 2 entfernst, was passiert mit den codes? Wenn du pull 1 entfernst?
Wörter und Symbole in dieser Lektion
- autoencoder
- ein Encoder, der ein Bild in wenige Zahlen presst, und ein Decoder, der es wieder aufbaut
- code (latent)
- die wenigen Zahlen, die der encoder aus einem Bild macht
- VAE
- variational autoencoder: ein autoencoder, dessen codes so gezogen werden, dass sie N(0, 1) füllen, damit zufällige codes zu neuen Bildern dekodiert werden
- mu, logvar
- das Zentrum und der Logarithmus der quadrierten Streuung einer Codenummer in einem VAE
Setze guess für beide Entfernungen auf eines von "spread out", "all at the centre" oder "no change". Trainiere dann drei 2-number VAEs (eine oder zwei Sekunden für jede im Browser) und fülle spread mit der mittleren Entfernung der Testcodes vom Zentrum und noise mit der mittleren Streuung exp(logvar / 2) für jede.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.