Сортировка фото, которые никто не размечал
Почему это важно Метки дороги: кто-то должен посмотреть на каждую картинку. Картинки без меток почти бесплатны. Если бы сеть могла выучить полезные признаки по одним неразмеченным картинкам, каждая модель могла бы начинать с миллионов примеров вместо тысяч. Это обучение без учителя (self-supervised learning), и именно так предобучаются сегодняшние большие модели.
Картинки в этом модуле - крошечные фото 16 × 16 шести видов объектов (мяч, коробка, кольцо, палатка, крест, луна) в загромождённых сценах: случайный фон, свет с любой стороны, тени, предметы на переднем плане, размытие и шум сенсора. Они сгенерированы, а не скачаны, и построены так, чтобы вести себя как настоящие фото: курс измерил три статистики, общие для всех естественных фото (как деталь убывает с масштабом, насколько разрежены края, насколько похожи соседние пиксели), и эти фото по всем трём попадают в диапазон настоящих фрагментов фото. photos.stats(X) выводит их.
Быстрая проверка любого набора признаков: для каждого фото найдите 5 ближайших соседей по этим признакам и посчитайте, сколько из них показывают тот же вид объекта. Случайное угадывание даёт 1 из 6.
Три вида признаков:
- сырые пиксели;
- CNN со случайными весами, никогда не обучавшаяся;
- та же CNN после предобучения SimCLR на 4000 фото, вообще без меток (курс обучил её один раз; как - вы увидите в уроке 5).
Сначала предскажите: что ставит фото одного объекта ближе всего друг к другу?
Слова и символы этого урока
- обучение без учителя (self-supervised)
- изучение признаков по данным без меток через задачу, которую данные ставят сами себе
- SimCLR
- обучение без учителя с двумя видами каждой картинки и InfoNCE (Chen et al. 2020)
Присвойте my_guess значение "raw", "random" или "simclr". Напишите agreement(F, labels, k): стандартизуйте каждый признак, масштабируйте каждую строку до длины 1 и верните долю k ближайших соседей (по косинусному сходству; фото не является собственным соседом) с той же меткой. Заполните scores для трёх видов признаков.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.