Programma Lezione 194 di 246 · Modulo 18: Imparare senza etichette
Modulo 18: Imparare senza etichette

Riempi il vuoto (previsione mascherata)

Perché è importante Il modo più semplice di creare un compito da dati senza etichette: nasconderne una parte e chiedere alla rete di riempirla. I modelli linguistici si addestrano proprio così (nascondi la parola successiva); i modelli di immagini nascondono dei riquadri. Per riempire bene un buco, una rete deve capire che cosa c'è intorno.

Nascondi un riquadro 4 x 4 al centro di ogni foto. La rete vede la finestra 8 x 8 intorno (gli altri 48 pixel, × 3 colori) e prevede i 16 nascosti (× 3). La loss è l'errore quadratico medio. Nessuna etichetta da nessuna parte: la foto è la sua stessa chiave delle risposte.

Due riempimenti semplici da battere: il colore medio della foto (errore circa 0.035) e la media dei pixel subito intorno al buco (circa 0.019). Una rete che batte il secondo ha imparato qualcosa su come continuano forme e luce.

Parole e simboli di questa lezione
previsione mascherata
nascondere parte dell'input e addestrare la rete a riempirla
Tocca a te

Scrivi il corpo del ciclo di addestramento (400 passi da 64 foto). Superi con un errore di validazione sotto 0.017.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.