Программа курса Урок 121 из 246 · Модуль 10: Сети, которые видят (CNN)
Модуль 10: Сети, которые видят (CNN)

Куда смотрит сеть, с проверкой

Почему это важно Тепловые карты того, "куда смотрела сеть", повсюду и часто вводят в заблуждение. Здесь вы сделаете такую карту, а затем проверите, значит ли она что-нибудь.

Карта значимости (saliency map) - это градиент оценки победившего класса по каждому пикселю входа: насколько яркость этого пикселя изменила бы ответ. Ваш движок вычисляет её бесплатно: сделайте вход тензором и вызовите backward.

Проверяйте, а не доверяйте

Если карта действительно отмечает важные пиксели, то затирание 20 самых значимых пикселей должно сильнее снизить уверенность сети, чем затирание 20 случайных пикселей. Это тест удаления. Карта, которая его не проходит, - украшение.

Но обыграть случайные пиксели - низкая планка. На этих фигурах яркие пиксели и есть фигура, поэтому карта, которая просто отмечает самые яркие пиксели, вообще без участия сети, тоже обыгрывает случайные. Честный вопрос - обыгрывает ли карта сети эту базовую линию без модели. Если нет, она не сказала вам ничего, чего не сказал бы взгляд на картинку.

Базовая линия: самое простое, что могло бы объяснить результат. Метод заслуживает доверия, только обыграв лучшую дешёвую базовую линию, а не худшую.

Слова и символы этого урока
карта значимости
градиент победившей оценки по каждому пикселю входа
RECORDED
настоящий запуск, который курс обучил один раз и поставляет вам для изучения
Твоя очередь

Для вас загружена CNN, которую курс обучил один раз (записанная сеть, 96% на новых фигурах). Напишите saliency(x) для одного изображения x формы (16, 16, 1), возвращающую |градиент победившей оценки| по каждому пикселю в форме (16, 16). Чтобы взять градиент одной оценки, выберите её столбец через E.cols(scores, k, k + 1), сложите через E.total и вызовите backward на этом. Затем deletion_drop(x, pixels), где pixels - список пар (строка, столбец): падение вероятности победившего класса, когда эти пиксели обнулены. Наконец, измерьте по первым 100 тестовым изображениям среднее падение для 20 самых значимых пикселей и для 20 самых ярких пикселей и присвойте beats_brightness True или False по вашим собственным числам. Тест также сверяет вашу карту с 20 случайными пикселями.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.