Programme Leçon 121 sur 246 · Module 10 : Des réseaux qui voient (CNN)
Module 10 : Des réseaux qui voient (CNN)

Ce que regarde le réseau, testé

Pourquoi c'est important Les cartes de chaleur de « ce que le réseau a regardé » sont partout, et souvent trompeuses. Ici, tu en fabriques une puis tu testes si elle veut dire quelque chose.

Une carte de saillance, c'est le gradient du score de la classe gagnante par rapport à chaque pixel d'entrée : à quel point la luminosité de ce pixel changerait la réponse. Ton moteur la calcule gratuitement : fais de l'entrée un Tensor et appelle backward.

Teste-la, ne lui fais pas confiance

Si la carte marque vraiment les pixels qui comptent, alors effacer les 20 pixels les plus saillants doit faire plus de mal à la confiance du réseau qu'effacer 20 pixels au hasard. C'est un test de suppression. Une carte qui y échoue est de la décoration.

Mais battre des pixels au hasard est une barre basse. Sur ces formes, les pixels clairs sont la forme, donc une carte qui marque simplement les pixels les plus clairs, sans aucun réseau, bat aussi le hasard. La question équitable est de savoir si la carte du réseau bat cette référence sans modèle. Si ce n'est pas le cas, elle ne t'a rien dit qu'un coup d'œil à l'image ne t'aurait pas dit.

Référence : la chose la plus simple qui pourrait expliquer un résultat. Une méthode ne mérite la confiance qu'en battant la meilleure référence bon marché, pas la pire.

Mots et symboles de cette leçon
carte de saillance
le gradient du score gagnant par rapport à chaque pixel d'entrée
RECORDED
un vrai entraînement que le cours a fait une fois et fournit pour que tu l'étudies
À ton tour

Un CNN que le cours a entraîné une fois est chargé pour toi (un réseau enregistré, 96 % sur de nouvelles formes). Écris saliency(x) pour une image x de forme (16, 16, 1), qui renvoie |gradient du score gagnant| par pixel, de forme (16, 16). Pour prendre le gradient d'un score, choisis sa colonne avec E.cols(scores, k, k + 1), additionne-la avec E.total, et appelle backward là-dessus. Puis deletion_drop(x, pixels), où pixels est une liste de paires (ligne, colonne) : la baisse de la probabilité de la classe gagnante quand ces pixels sont mis à 0. Enfin, mesure, sur les 100 premières images de test, la baisse moyenne pour les 20 pixels les plus saillants et pour les 20 pixels les plus clairs, et affecte à beats_brightness True ou False d'après tes propres nombres. Le test vérifie aussi ta carte face à 20 pixels au hasard.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.