Программа курса Урок 193 из 246 · Модуль 18: Обучение без меток
Модуль 18: Обучение без меток

Сортировка фото, которые никто не размечал

Почему это важно Метки дороги: кто-то должен посмотреть на каждую картинку. Картинки без меток почти бесплатны. Если бы сеть могла выучить полезные признаки по одним неразмеченным картинкам, каждая модель могла бы начинать с миллионов примеров вместо тысяч. Это обучение без учителя (self-supervised learning), и именно так предобучаются сегодняшние большие модели.

Картинки в этом модуле - крошечные фото 16 × 16 шести видов объектов (мяч, коробка, кольцо, палатка, крест, луна) в загромождённых сценах: случайный фон, свет с любой стороны, тени, предметы на переднем плане, размытие и шум сенсора. Они сгенерированы, а не скачаны, и построены так, чтобы вести себя как настоящие фото: курс измерил три статистики, общие для всех естественных фото (как деталь убывает с масштабом, насколько разрежены края, насколько похожи соседние пиксели), и эти фото по всем трём попадают в диапазон настоящих фрагментов фото. photos.stats(X) выводит их.

Быстрая проверка любого набора признаков: для каждого фото найдите 5 ближайших соседей по этим признакам и посчитайте, сколько из них показывают тот же вид объекта. Случайное угадывание даёт 1 из 6.

Три вида признаков:

  • сырые пиксели;
  • CNN со случайными весами, никогда не обучавшаяся;
  • та же CNN после предобучения SimCLR на 4000 фото, вообще без меток (курс обучил её один раз; как - вы увидите в уроке 5).

Сначала предскажите: что ставит фото одного объекта ближе всего друг к другу?

Слова и символы этого урока
обучение без учителя (self-supervised)
изучение признаков по данным без меток через задачу, которую данные ставят сами себе
SimCLR
обучение без учителя с двумя видами каждой картинки и InfoNCE (Chen et al. 2020)
Твоя очередь

Присвойте my_guess значение "raw", "random" или "simclr". Напишите agreement(F, labels, k): стандартизуйте каждый признак, масштабируйте каждую строку до длины 1 и верните долю k ближайших соседей (по косинусному сходству; фото не является собственным соседом) с той же меткой. Заполните scores для трёх видов признаков.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.