Lehrplan Lektion 194 von 246 · Modul 18: Lernen ohne Labels
Modul 18: Lernen ohne Labels

Fülle die Lücke aus (maskierte Vorhersage)

Warum das wichtig istDer einfachste Weg, eine Aufgabe aus unbeschrifteten Daten zu erstellen: Verstecke einen Teil davon und bitte das Netzwerk, ihn auszufüllen. Sprachmodelle werden genau so trainiert (verstecke das nächste Wort); Bildmodelle verstecken Patches. Um eine Lücke gut zu füllen, muss ein Netzwerk verstehen, was drumherum ist.

Verstecke ein 4 x 4 Patch in der Mitte jedes Fotos. Das Netzwerk sieht das 8 x 8 Fenster darum (die anderen 48 Pixel, x 3 Farben) und sagt die 16 versteckten voraus (x 3). Der loss ist der mean squared error. Keine labels irgendwo: das Foto ist sein eigener answer key.

Zwei einfache Füllungen zum Schlagen: die durchschnittliche Farbe des Fotos (Fehler etwa 0.035) und der Durchschnitt der Pixel direkt um das Loch herum (etwa 0.019). Ein Netzwerk, das das zweite schlägt, hat etwas darüber gelernt, wie Formen und Licht fortfahren.

Wörter und Symbole in dieser Lektion
maskierte Vorhersage
hiding Teil der Eingabe und das Netzwerk trainieren, ihn auszufüllen
Du bist dran

Schreibe den Körper der Trainingsschleife (400 steps von 64 photos). Bestehe mit einem validation error unter 0.017.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.