Программа курса Урок 140 из 246 · Модуль 12: Слова как числа (эмбеддинги)
Модуль 12: Слова как числа (эмбеддинги)

Контрольная задача: векторы слов для нового мира (ИИ выключен)

Почему это важно Построить векторы слов из сырых предложений, проверить, что они выучили, и убрать скопированный ими перекос, самостоятельно, - это весь модуль в одной задаче.

ИИ-наставник выключен. Проверка даёт вашим функциям мир, которого вы не видели: новые предложения с другого seed, где nurse и engineer перекошены к she и he. Ничего о нём нет в вашем пространстве имён.

Слова и символы этого урока
окно
сколько слов с каждой стороны считается окружением слова
PPMI
во сколько раз чаще два слова встречаются, чем дал бы случай, с отрицательными значениями, заменёнными на 0
перекос
однобокая закономерность в данных, которую копируют векторы
Твоя очередь

Напишите word_vectors(sents, vocab): посчитайте совместные встречаемости внутри каждого предложения с выбранным вами окном WINDOW и верните ppmi(counts), по строке на каждое слово из vocab. Напишите debias(X, vocab): верните копию X, в которой у четырёх профессий (nurse, engineer, doctor, teacher) убрано направление рода (единичные векторы, четыре пары, как в прошлом уроке), а все остальные строки не изменены. Проверка оценивает 72 аналогии на своём мире (хотя бы 95% верно), а затем измеряет положение каждой профессии на направлении рода после вашей debias (все в пределах 0,05 от нуля).

ИИ выключен: нет тьютора, подсказок или готового решения для этой задачи. Только ваши собственные мысли.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.