Fülle die Lücke aus (maskierte Vorhersage)
Warum das wichtig istDer einfachste Weg, eine Aufgabe aus unbeschrifteten Daten zu erstellen: Verstecke einen Teil davon und bitte das Netzwerk, ihn auszufüllen. Sprachmodelle werden genau so trainiert (verstecke das nächste Wort); Bildmodelle verstecken Patches. Um eine Lücke gut zu füllen, muss ein Netzwerk verstehen, was drumherum ist.
Verstecke ein 4 x 4 Patch in der Mitte jedes Fotos. Das Netzwerk sieht das 8 x 8 Fenster darum (die anderen 48 Pixel, x 3 Farben) und sagt die 16 versteckten voraus (x 3). Der loss ist der mean squared error. Keine labels irgendwo: das Foto ist sein eigener answer key.
Zwei einfache Füllungen zum Schlagen: die durchschnittliche Farbe des Fotos (Fehler etwa 0.035) und der Durchschnitt der Pixel direkt um das Loch herum (etwa 0.019). Ein Netzwerk, das das zweite schlägt, hat etwas darüber gelernt, wie Formen und Licht fortfahren.
Wörter und Symbole in dieser Lektion
- maskierte Vorhersage
- hiding Teil der Eingabe und das Netzwerk trainieren, ihn auszufüllen
Schreibe den Körper der Trainingsschleife (400 steps von 64 photos). Bestehe mit einem validation error unter 0.017.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.