Lo que mira la red, puesto a prueba
Por qué importa Los mapas de calor de "lo que miró la red" están por todas partes, y a menudo engañan. Aquí haces uno y luego pones a prueba si significa algo.
Un mapa de saliencia es el gradiente de la puntuación de la clase ganadora respecto a cada píxel de la entrada: cuánto cambiaría la respuesta el brillo de ese píxel. Tu motor lo calcula gratis: haz que la entrada sea un Tensor y llama a backward.
Ponlo a prueba, no te fíes
Si el mapa marca de verdad los píxeles que importan, entonces borrar los 20 píxeles más salientes debería dañar la confianza de la red más que borrar 20 píxeles al azar. Eso es una prueba de borrado. Un mapa que no la pasa es decoración.
Pero ganarle a píxeles al azar es un listón bajo. Con estas formas, los píxeles brillantes son la forma, así que un mapa que simplemente marca los píxeles más brillantes, sin ninguna red de por medio, también le gana al azar. La pregunta justa es si el mapa de la red le gana a esa referencia base sin modelo. Si no lo hace, no te ha dicho nada que no te dijera un vistazo a la imagen.
Referencia base: lo más sencillo que podría explicar un resultado. Un método solo se gana la confianza ganándole a la mejor referencia base barata, no a la peor.
Palabras y símbolos de esta lección
- mapa de saliencia
- el gradiente de la puntuación ganadora respecto a cada píxel de la entrada
- RECORDED
- una ejecución real que el curso entrenó una vez y te da para que la estudies
Se te carga una CNN que el curso entrenó una vez (una red grabada, un 96% con formas nuevas). Escribe saliency(x) para una imagen x de forma (16, 16, 1), que devuelva |el gradiente de la puntuación ganadora| por píxel con forma (16, 16). Para sacar el gradiente de una puntuación, elige su columna con E.cols(scores, k, k + 1), súmala con E.total, y llama a backward sobre eso. Luego deletion_drop(x, pixels), donde pixels es una lista de parejas (fila, columna): la caída de la probabilidad de la clase ganadora cuando esos píxeles se ponen a 0. Por último mide, con las 100 primeras imágenes de prueba, la caída media con los 20 píxeles más salientes y con los 20 píxeles más brillantes, y pon beats_brightness a True o False según tus propios números. La prueba también compara tu mapa con 20 píxeles al azar.
¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección
Este ejercicio se abre pronto
Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.
Este navegador está bloqueando las cookies de learn.floati.life, así que las lecciones que terminaste aquí no se pueden abrir en orden. Permite las cookies de este sitio y recarga.