Kurrikulum Leson 194 van 246 · Module 18: Leer sonder etikette
Module 18: Leer sonder etikette

Vul die spasie in (gemaskeerde voorspelling)

Waarom dit saak maak Die eenvoudigste manier om 'n taak uit ongemerkte data te maak: verberg 'n deel daarvan en vra die netwerk om dit in te vul. Taalmodelle word presies so opgelei (verberg die volgende woord); beeldmodelle verberg stukke. Om 'n gat goed in te vul, moet 'n netwerk verstaan wat daaromheen is.

Verberg 'n 4 x 4 gedeelte in die middel van elke foto. Die netwerk sien die 8 x 8 venster rondom dit (die ander 48 pixels, x 3 kleure) en voorspel die 16 verstekte een (x 3). Die loss is die mean squared error. Geen labels enige plek nie: die foto is sy eie antwoordsleutel.

Twee eenvoudige vulmetodes om te wen: die foto se gemiddelde kleur (fout van ongeveer 0.035) en die gemiddelde van die pixels reg rondom die gat (ongeveer 0.019). 'n Netwerk wat die tweede wen het iets geleer oor hoe vorme en lig voortgaan.

Woorde en simbole in hierdie les
gemaskeerde voorspelling
verberg 'n deel van die input en stel die netwerk op om dit in te vul
Jou beurt

Skryf die liggaam van die opleidingslus (400 stappe van 64 foto's). Laat dit deur met 'n validasiefout onder 0.017.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.