Заполните пропуск (маскированное предсказание)
Почему это важно Простейший способ сделать задачу из неразмеченных данных: скрыть их часть и попросить сеть её заполнить. Языковые модели обучаются ровно так (скрывается следующее слово); модели изображений скрывают фрагменты. Чтобы хорошо заполнить дыру, сеть должна понимать то, что вокруг неё.
Скройте фрагмент 4 × 4 в середине каждого фото. Сеть видит окно 8 × 8 вокруг него (остальные 48 пикселей, × 3 цвета) и предсказывает 16 скрытых (× 3). Потери - среднеквадратичная ошибка. Меток нигде нет: фото само себе ключ ответов.
Два простых заполнения, которые нужно обогнать: средний цвет фото (ошибка около 0,035) и среднее пикселей сразу вокруг дыры (около 0,019). Сеть, которая обгоняет второе, выучила кое-что о том, как продолжаются формы и свет.
Слова и символы этого урока
- маскированное предсказание
- скрыть часть входа и обучить сеть её заполнять
Напишите тело цикла обучения (400 шагов по 64 фото). Пройдите с ошибкой на валидации ниже 0,017.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.