Маршрутизация из эмбеддинга в прототип
нужны размеченные обучающие данные. Иногда у вас их нет -> у вас есть только горсть example запросов для каждого намерения. Тогда самый дешевый роутер это nearest-prototype: представьте каждое намерение одним вектором (его "прототипом", часто средним эмбеддингом нескольких примеров), встройте входящий запрос и направьте его к тому прототипу, на который он указывает наиболее напрямую.
"Points most directly at" означает cosine similarity: косинус угла между двумя векторами без учета их длины. Это правильная мера для текста, потому что длинный документ и короткий на одну и ту же тему все равно должны совпадать.
cosine(a, b) = (a . b) / (|a| |b|)Значение A рядом с 1.0 означает, что векторы указывают в одном направлении (одинаковый смысл); рядом с 0.0 означает отсутствие связи. Роутер выбирает прототип с самым высоким косинусом, и этот показатель служит как confidence, который можно ограничить порогом позже.
Честное описание: в продакшене эти векторы приходят из обученной модели эмбеддингов (вызов API или sentence-transformer). Мы не можем загрузить одну здесь -> здесь нет файла весов модели и нет GPU в браузере. Поэтому в этом уроке векторы даются вам как обычные массивы numpy. Вы строите геометрию маршрутизации, которая идентична независимо от того, пришли ли числа из реального эмбеддера или из фикстуры. Реальные эмбеддинги просто заполняют лучшие числа; логика cosine-and-argmax это та часть, которую вы поставляете.
Ties должны быть детерминированными. Если два прототипа находятся на точно одинаковом расстоянии, выбор "того, что первым встретится в dict" является скрытой ошибкой -> порядок в dict может измениться. Разрешайте ничьи путем выбора намерения, чье имя идет первым по алфавиту, чтобы одна и та же ничья всегда разрешалась одинаково.
Создайте две функции. cosine(a, b) возвращает косинусное сходство двух векторов и безопасна для нуля (вектор нулевой длины возвращает 0.0, никогда не NaN). route_by_prototype(query_vec, prototypes) принимает вектор запроса и словарь {intent_name: prototype_vector} и возвращает кортеж (best_intent, best_score) -> ближайший прототип и его косинус с алфавитным разрешением ничьей. Нажмите Run чтобы отправить несколько запросов и увидеть уверенность каждого из них.
Напишите cosine(a, b) = a.b / (|a||b|), возвращая 0.0, если любой вектор имеет нулевую длину (без NaN). Затем напишите route_by_prototype(query_vec, prototypes), где prototypes это словарь {name: vector}; возвращайте кортеж (best_name, best_score) для самого высокого косинуса, разрешая точные ничьи по имени, которое идет первым по алфавиту. Оставьте PROTOTYPES стартового как есть: проверка читает его.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.