Ce que regarde le réseau, testé
Pourquoi c'est important Les cartes de chaleur de « ce que le réseau a regardé » sont partout, et souvent trompeuses. Ici, tu en fabriques une puis tu testes si elle veut dire quelque chose.
Une carte de saillance, c'est le gradient du score de la classe gagnante par rapport à chaque pixel d'entrée : à quel point la luminosité de ce pixel changerait la réponse. Ton moteur la calcule gratuitement : fais de l'entrée un Tensor et appelle backward.
Teste-la, ne lui fais pas confiance
Si la carte marque vraiment les pixels qui comptent, alors effacer les 20 pixels les plus saillants doit faire plus de mal à la confiance du réseau qu'effacer 20 pixels au hasard. C'est un test de suppression. Une carte qui y échoue est de la décoration.
Mais battre des pixels au hasard est une barre basse. Sur ces formes, les pixels clairs sont la forme, donc une carte qui marque simplement les pixels les plus clairs, sans aucun réseau, bat aussi le hasard. La question équitable est de savoir si la carte du réseau bat cette référence sans modèle. Si ce n'est pas le cas, elle ne t'a rien dit qu'un coup d'œil à l'image ne t'aurait pas dit.
Référence : la chose la plus simple qui pourrait expliquer un résultat. Une méthode ne mérite la confiance qu'en battant la meilleure référence bon marché, pas la pire.
Mots et symboles de cette leçon
- carte de saillance
- le gradient du score gagnant par rapport à chaque pixel d'entrée
- RECORDED
- un vrai entraînement que le cours a fait une fois et fournit pour que tu l'étudies
Un CNN que le cours a entraîné une fois est chargé pour toi (un réseau enregistré, 96 % sur de nouvelles formes). Écris saliency(x) pour une image x de forme (16, 16, 1), qui renvoie |gradient du score gagnant| par pixel, de forme (16, 16). Pour prendre le gradient d'un score, choisis sa colonne avec E.cols(scores, k, k + 1), additionne-la avec E.total, et appelle backward là-dessus. Puis deletion_drop(x, pixels), où pixels est une liste de paires (ligne, colonne) : la baisse de la probabilité de la classe gagnante quand ces pixels sont mis à 0. Enfin, mesure, sur les 100 premières images de test, la baisse moyenne pour les 20 pixels les plus saillants et pour les 20 pixels les plus clairs, et affecte à beats_brightness True ou False d'après tes propres nombres. Le test vérifie aussi ta carte face à 20 pixels au hasard.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.