Программа курса Урок 194 из 246 · Модуль 18: Обучение без меток
Модуль 18: Обучение без меток

Заполните пропуск (маскированное предсказание)

Почему это важно Простейший способ сделать задачу из неразмеченных данных: скрыть их часть и попросить сеть её заполнить. Языковые модели обучаются ровно так (скрывается следующее слово); модели изображений скрывают фрагменты. Чтобы хорошо заполнить дыру, сеть должна понимать то, что вокруг неё.

Скройте фрагмент 4 × 4 в середине каждого фото. Сеть видит окно 8 × 8 вокруг него (остальные 48 пикселей, × 3 цвета) и предсказывает 16 скрытых (× 3). Потери - среднеквадратичная ошибка. Меток нигде нет: фото само себе ключ ответов.

Два простых заполнения, которые нужно обогнать: средний цвет фото (ошибка около 0,035) и среднее пикселей сразу вокруг дыры (около 0,019). Сеть, которая обгоняет второе, выучила кое-что о том, как продолжаются формы и свет.

Слова и символы этого урока
маскированное предсказание
скрыть часть входа и обучить сеть её заполнять
Твоя очередь

Напишите тело цикла обучения (400 шагов по 64 фото). Пройдите с ошибкой на валидации ниже 0,017.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.