Instradamento da embedding a prototipo
Un classificatore ha bisogno di dati di addestramento etichettati. A volte non ne hai -> hai solo una manciata di query di esempio per ogni intento. L'instradatore più economico allora è il prototipo più vicino: rappresenta ogni intento con un vettore (il suo "prototipo", spesso la media degli embedding di qualche esempio), fai l'embedding della query in arrivo, e instradala verso il prototipo a cui punta più direttamente.
"Punta più direttamente" significa similarità del coseno: il coseno dell'angolo tra due vettori, ignorando la loro lunghezza. È la misura giusta per il testo perché un documento lungo e uno corto sullo stesso argomento dovrebbero comunque corrispondere.
cosine(a, b) = (a . b) / (|a| |b|)Un valore vicino a 1.0 significa che i vettori puntano nella stessa direzione (stesso intento); vicino a 0.0 significa che non c'entrano. L'instradatore sceglie il prototipo con il coseno più alto, e quel punteggio fa anche da confidenza su cui puoi mettere una soglia più tardi.
Detto onestamente: in produzione quei vettori vengono da un modello di embedding addestrato (una chiamata a un'API, o un sentence-transformer). Qui non possiamo caricarne uno -> nel browser non c'è nessun file di pesi del modello e nessuna GPU. Quindi in questa lezione i vettori ti vengono dati come semplici array numpy. Stai costruendo la geometria dell'instradamento, che è identica sia che i numeri vengano da un vero embedder sia da dati di prova. Gli embedding veri mettono solo numeri migliori; la logica coseno-e-argmax è la parte che rilasci.
Le parità devono essere deterministiche. Se due prototipi sono esattamente alla stessa distanza, scegliere "quello che per caso viene prima nel dict" è un bug latente -> l'ordine del dict può cambiare. Spareggia scegliendo l'intento il cui nome viene prima in ordine alfabetico, così la stessa parità si risolve sempre allo stesso modo.
Costruisci due funzioni. cosine(a, b) restituisce la similarità del coseno di due vettori ed è sicura con lo zero (un vettore di lunghezza zero restituisce 0.0, mai un NaN). route_by_prototype(query_vec, prototypes) riceve il vettore della query e un dict {intent_name: prototype_vector} e restituisce una tupla (best_intent, best_score) -> il prototipo più vicino e il suo coseno, con lo spareggio alfabetico. Premi Run per instradare qualche query e vedere con quale confidenza torna ognuna.
Scrivi cosine(a, b) = a.b / (|a||b|), che restituisce 0.0 quando uno dei due vettori ha lunghezza zero (niente NaN). Poi scrivi route_by_prototype(query_vec, prototypes) dove prototypes è un dict {name: vector}; restituisci la tupla (best_name, best_score) per il coseno più alto, spareggiando le parità esatte con il nome che viene prima in ordine alfabetico. Lascia PROTOTYPES del codice di partenza così com'è: la verifica lo legge.
Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione
Questo esercizio si apre presto
Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.
Questo browser blocca i cookie per learn.floati.life, quindi le lezioni che hai finito qui non si possono aprire in ordine. Consenti i cookie per questo sito e ricarica.