Was das Netzwerk betrachtet, getestet
Warum das wichtig ist Heat maps von "was das Netzwerk angesehen hat" sind überall und oft irreführend. Hier erstellst du eine und testest dann, ob sie etwas bedeutet.
A saliency map ist der Gradient des Scores der gewinnenden Klasse in Bezug auf jedes Eingabepixel: wie sehr die Helligkeit dieses Pixels die Antwort verändern würde. Deine Engine berechnet es kostenlos: mache die Eingabe zu einem Tensor und rufe backward auf.
Teste es, vertraue ihm nicht
Wenn die Karte wirklich die Pixel markiert, die wichtig sind, dann sollte das Ausblenden der 20 auffälligsten Pixel die Confidence des Netzwerks mehr beeinträchtigen als das Ausblenden von 20 zufälligen Pixeln. Das ist ein deletion test. Eine Karte, die daran scheitert, ist Dekoration.
Aber zufällige Pixel zu schlagen ist eine niedrige Hürde. Bei diesen Formen sind die hellen Pixel die Form, also schlägt eine Karte, die einfach nur die hellsten Pixel markiert, ohne dass ein Netzwerk überhaupt beteiligt ist, auch den Zufall. Die faire Frage ist, ob die Karte des Netzwerks diesen no-model Referenzwert schlägt. Wenn nicht, hat sie dir nichts verraten, was ein Blick auf das Bild nicht schon zeigen würde.
Baseline: die einfachste Sache, die ein Ergebnis erklären könnte. Eine Methode verdient Vertrauen nur, indem sie die beste günstige Baseline schlägt, nicht die schlechteste.
Wörter und Symbole in dieser Lektion
- saliency map
- der Gradient des Gewinn-Scores in Bezug auf jedes Eingabepixel
- RECORDED
- Ein echter Durchlauf des Kurses wurde einmal trainiert und wird dir zum Lernen zugeschickt
A CNN der Kurs wurde einmal trainiert und ist für dich geladen (ein aufgezeichnetes Netzwerk, 96% auf neuen Formen). Schreibe saliency(x) für ein Bild x der Form (16, 16, 1), das den |Gradienten des gewinnenden Scores| pro Pixel als Form (16, 16) zurückgibt. Um den Gradienten eines Scores zu nehmen, wähle seine Spalte mit E.cols(scores, k, k + 1), addiere es mit E.total und rufe backward darauf auf. Dann deletion_drop(x, pixels), wobei pixels eine Liste von (Zeile, Spalte) Paaren ist: der Abfall der Wahrscheinlichkeit der gewinnenden Klasse, wenn diese Pixel auf 0 gesetzt werden. Miss schließlich über die ersten 100 Testbilder den durchschnittlichen Abfall für die Top-20 salienten Pixel und für die 20 hellsten Pixel und setze beats_brightness auf True oder False basierend auf deinen eigenen Zahlen. Der Test prüft auch deine Map gegen 20 zufällige Pixel.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.