Почему изображения ломают MLP
Почему это важно Ваш распознаватель цифр из модуля 3 набирал около 95%, а чуть больший в этом уроке набирает около 98%. Сдвиньте каждую цифру на один пиксель вправо, и он рушится. Понять почему - вся причина существования свёрточных сетей.
MLP даёт каждому пикселю свой вес. Он учит "яркий пиксель в строке 3, столбце 5 означает 7". Сдвиньте цифру на пиксель, и каждый яркий пиксель попадёт на вес, выучивший что-то другое. Для MLP сдвинутая 7 - совершенно новая картинка.
Нам нужна сеть, которая узнаёт узор, где бы он ни появился. Запомните эту мысль; следующий урок строит инструмент.
Инвариантность к сдвигу: тот же ответ, когда вход сдвигают. У MLP её нет; у CNN в основном есть.
Слова и символы этого урока
- свёртка
- скольжение маленькой сетки весов (фильтра) по изображению, одно скалярное произведение на позицию
- фильтр, карта признаков
- маленькая обучаемая сетка весов; и изображение её откликов
Изображения цифр приходят массивом формы (N, 8, 8, 1): N изображений, 8 строк, 8 столбцов и 1 канал последним (уровень серого от 0 до 1). Такая раскладка с каналами в конце используется для каждого изображения в этом модуле. Напишите shift(X, dx), которая сдвигает каждое изображение на dx пикселей вправо (используйте np.roll по оси столбцов). Затем заполните acc точностью обученного MLP на тесте при сдвигах 0, 1 и 2.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.