Che cosa guarda la rete, messo alla prova
Perché è importante Le mappe di calore di "che cosa ha guardato la rete" sono ovunque, e spesso ingannano. Qui ne fai una e poi verifichi se significa qualcosa.
Una mappa di salienza è il gradiente del punteggio della classe vincente rispetto a ogni pixel dell'input: quanto la luminosità di quel pixel cambierebbe la risposta. Il tuo motore la calcola gratis: rendi l'input un Tensor e chiama backward.
Mettila alla prova, non fidarti
Se la mappa segna davvero i pixel che contano, allora oscurare i 20 pixel più salienti dovrebbe danneggiare la sicurezza della rete più che oscurare 20 pixel casuali. È un test di cancellazione. Una mappa che non lo supera è decorazione.
Ma battere i pixel casuali è un'asticella bassa. Su queste forme, i pixel luminosi sono la forma, quindi anche una mappa che segna semplicemente i pixel più luminosi, senza nessuna rete di mezzo, batte il caso. La domanda equa è se la mappa della rete batte quel riferimento senza modello. Se non ci riesce, non ti ha detto niente che uno sguardo all'immagine non dicesse.
Riferimento: la cosa più semplice che potrebbe spiegare un risultato. Un metodo si guadagna la fiducia solo battendo il miglior riferimento economico, non il peggiore.
Parole e simboli di questa lezione
- mappa di salienza
- il gradiente del punteggio vincente rispetto a ogni pixel dell'input
- REGISTRATO
- un addestramento vero che il corso ha eseguito una volta e ti fornisce da studiare
Una CNN che il corso ha addestrato una volta viene caricata per te (una rete registrata, 96% su forme nuove). Scrivi saliency(x) per un'immagine x di forma (16, 16, 1), che restituisce |gradiente del punteggio vincente| per pixel con forma (16, 16). Per prendere il gradiente di un punteggio, scegline la colonna con E.cols(scores, k, k + 1), sommala con E.total, e chiama backward su quello. Poi deletion_drop(x, pixels), dove pixels è una lista di coppie (riga, colonna): il calo della probabilità della classe vincente quando quei pixel vengono messi a 0. Infine misura, sulle prime 100 immagini di test, il calo medio per i 20 pixel più salienti e per i 20 pixel più luminosi, e imposta beats_brightness su True o False in base ai tuoi numeri. Il test controlla anche la tua mappa contro 20 pixel casuali.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.