Programma Lezione 193 di 246 · Modulo 18: Imparare senza etichette
Modulo 18: Imparare senza etichette

Ordinare foto che nessuno ha etichettato

Perché è importante Le etichette costano: qualcuno deve guardare ogni immagine. Le immagini senza etichette sono quasi gratis. Se una rete potesse imparare feature utili solo da immagini senza etichette, ogni modello potrebbe partire da milioni di esempi invece che da migliaia. Questo è l'apprendimento auto-supervisionato, ed è così che vengono pre-addestrati i grandi modelli di oggi.

Le immagini di questo modulo sono minuscole foto 16 x 16 di sei tipi di oggetto (palla, scatola, anello, tenda, croce, luna) in scene affollate: sfondi casuali, luce da qualsiasi lato, ombre, cose davanti, sfocatura e rumore del sensore. Sono generate, non scaricate, e costruite per comportarsi come foto vere: il corso ha misurato tre statistiche che ogni foto naturale condivide (come il dettaglio cala con la scala, quanto sono rari i bordi, quanto si somigliano i pixel vicini), e queste foto stanno dentro l'intervallo dei ritagli di foto vere su tutte e tre. photos.stats(X) le stampa.

Un test rapido per qualsiasi insieme di feature: per ogni foto, trova i suoi 5 vicini più prossimi secondo quelle feature e conta quanti mostrano lo stesso tipo di oggetto. Tirando a caso si ottiene 1 su 6.

Tre tipi di feature:

  • i pixel grezzi;
  • una CNN con pesi casuali, mai addestrata;
  • la stessa CNN dopo il pre-addestramento SimCLR su 4000 foto, senza nessuna etichetta (il corso l'ha addestrata una volta; vedrai come nella lezione 5).

Prima prevedi: quale mette più vicine tra loro le foto dello stesso oggetto?

Parole e simboli di questa lezione
apprendimento auto-supervisionato
imparare feature da dati senza etichette, con un compito che i dati si pongono da soli
SimCLR
addestramento auto-supervisionato con due viste di ogni foto e InfoNCE (Chen et al. 2020)
Tocca a te

Imposta my_guess su "raw", "random" o "simclr". Scrivi agreement(F, labels, k): standardizza ogni feature, porta ogni riga a lunghezza 1, e restituisci la quota dei k vicini più prossimi (per similarità del coseno; una foto non è vicina di se stessa) che hanno la stessa etichetta. Riempi scores per i tre tipi di feature.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.