Programme Leçon 197 sur 250 · Le ML autour du LLM
Le ML autour du LLM

Routage par embedding vers des prototypes

Un classifieur a besoin de données d'entraînement étiquetées. Parfois tu n'en as pas -> tu as juste une poignée de requêtes d'exemple pour chaque intention. Le routeur le moins cher est alors celui du prototype le plus proche : représente chaque intention par un vecteur (son « prototype », souvent l'embedding moyen de quelques exemples), calcule l'embedding de la requête entrante, et route-la vers le prototype qu'elle vise le plus directement.

« Vise le plus directement » veut dire la similarité cosinus : le cosinus de l'angle entre deux vecteurs, sans tenir compte de leur longueur. C'est la bonne mesure pour du texte car un long document et un court sur le même sujet doivent quand même correspondre.

cosine(a, b) = (a . b) / (|a| |b|)

Une valeur proche de 1.0 veut dire que les vecteurs pointent dans le même sens (même intention) ; proche de 0.0, ils n'ont rien à voir. Le routeur choisit le prototype au plus haut cosinus, et ce score sert aussi de confiance que tu pourras seuiller plus tard.

Pour être honnête : en production, ces vecteurs viennent d'un modèle d'embedding entraîné (un appel d'API, ou un sentence-transformer). On ne peut pas en charger un ici -> il n'y a pas de fichier de poids ni de GPU dans le navigateur. Dans cette leçon, les vecteurs te sont donc fournis sous forme de simples tableaux numpy. Tu construis la géométrie du routage, qui est identique que les nombres viennent d'un vrai modèle d'embedding ou d'un jeu de test. Les vrais embeddings donnent juste de meilleurs nombres ; la logique cosinus + argmax est la partie que tu livres.

Les égalités doivent être déterministes. Si deux prototypes sont exactement à égale distance, prendre « celui qui vient en premier dans le dict » est un bug latent -> l'ordre d'un dict peut changer. Départage en choisissant l'intention dont le nom vient en premier dans l'ordre alphabétique, pour qu'une même égalité se résolve toujours de la même façon.

Construis deux fonctions. cosine(a, b) renvoie la similarité cosinus de deux vecteurs et résiste au zéro (un vecteur de longueur nulle renvoie 0.0, jamais NaN). route_by_prototype(query_vec, prototypes) prend le vecteur de requête et un dict {intent_name: prototype_vector} et renvoie un tuple (best_intent, best_score) -> le prototype le plus proche et son cosinus, avec le départage alphabétique. Appuie sur Run pour router quelques requêtes et voir la confiance de chacune.

À ton tour

Écris cosine(a, b) = a.b / (|a||b|), qui renvoie 0.0 quand un des vecteurs est de longueur nulle (pas de NaN). Puis écris route_by_prototype(query_vec, prototypes) où prototypes est un dict {name: vector} ; renvoie le tuple (best_name, best_score) pour le plus haut cosinus, en départageant les égalités exactes par le premier nom dans l'ordre alphabétique. Garde PROTOTYPES du code de départ tel quel : la vérification le lit.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.