Lehrplan Lektion 121 von 246 · Modul 10: Netzwerke, die sehen (CNNs)
Modul 10: Netzwerke, die sehen (CNNs)

Was das Netzwerk betrachtet, getestet

Warum das wichtig ist Heat maps von "was das Netzwerk angesehen hat" sind überall und oft irreführend. Hier erstellst du eine und testest dann, ob sie etwas bedeutet.

A saliency map ist der Gradient des Scores der gewinnenden Klasse in Bezug auf jedes Eingabepixel: wie sehr die Helligkeit dieses Pixels die Antwort verändern würde. Deine Engine berechnet es kostenlos: mache die Eingabe zu einem Tensor und rufe backward auf.

Teste es, vertraue ihm nicht

Wenn die Karte wirklich die Pixel markiert, die wichtig sind, dann sollte das Ausblenden der 20 auffälligsten Pixel die Confidence des Netzwerks mehr beeinträchtigen als das Ausblenden von 20 zufälligen Pixeln. Das ist ein deletion test. Eine Karte, die daran scheitert, ist Dekoration.

Aber zufällige Pixel zu schlagen ist eine niedrige Hürde. Bei diesen Formen sind die hellen Pixel die Form, also schlägt eine Karte, die einfach nur die hellsten Pixel markiert, ohne dass ein Netzwerk überhaupt beteiligt ist, auch den Zufall. Die faire Frage ist, ob die Karte des Netzwerks diesen no-model Referenzwert schlägt. Wenn nicht, hat sie dir nichts verraten, was ein Blick auf das Bild nicht schon zeigen würde.

Baseline: die einfachste Sache, die ein Ergebnis erklären könnte. Eine Methode verdient Vertrauen nur, indem sie die beste günstige Baseline schlägt, nicht die schlechteste.

Wörter und Symbole in dieser Lektion
saliency map
der Gradient des Gewinn-Scores in Bezug auf jedes Eingabepixel
RECORDED
Ein echter Durchlauf des Kurses wurde einmal trainiert und wird dir zum Lernen zugeschickt
Du bist dran

A CNN der Kurs wurde einmal trainiert und ist für dich geladen (ein aufgezeichnetes Netzwerk, 96% auf neuen Formen). Schreibe saliency(x) für ein Bild x der Form (16, 16, 1), das den |Gradienten des gewinnenden Scores| pro Pixel als Form (16, 16) zurückgibt. Um den Gradienten eines Scores zu nehmen, wähle seine Spalte mit E.cols(scores, k, k + 1), addiere es mit E.total und rufe backward darauf auf. Dann deletion_drop(x, pixels), wobei pixels eine Liste von (Zeile, Spalte) Paaren ist: der Abfall der Wahrscheinlichkeit der gewinnenden Klasse, wenn diese Pixel auf 0 gesetzt werden. Miss schließlich über die ersten 100 Testbilder den durchschnittlichen Abfall für die Top-20 salienten Pixel und für die 20 hellsten Pixel und setze beats_brightness auf True oder False basierend auf deinen eigenen Zahlen. Der Test prüft auch deine Map gegen 20 zufällige Pixel.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.