Kurrikulum Leson 197 van 250 · Die ML rondom die LLM
Die ML rondom die LLM

Inbedding-na-Prototipe-Routings

A-klassifiseerder het gelabelde opleidingsdata nodig. Soms het jy glad niks nie -> jy het net 'n handvol example-navrae vir elke bedoeling. Die goedkoopste roeier is dan nearest-prototype: verteenwoordig elke bedoeling deur een vektor (die "prototype", dikwels die gemiddelde embedding van 'n paar voorbeelde), embed die inkomende navraag, en roe dit na die prototype wat dit die meeste direk aandui.

"Points most directly at" beteken cosine similarity: die kosinus van die hoek tussen twee vektore, sonder om hul lengte te agterkom. Dit is die regte maatstaf vir teks omdat 'n lang dokument en 'n kort een oor dieselfde onderwerp steeds moet ooreenstem.

cosine(a, b) = (a . b) / (|a| |b|)
'n

-waarde naby 1.0 beteken die vektore wys in dieselfde rigting (dieselfde bedoel); naby 0.0 beteken dit onverwant. Die router kies die prototipe met die hoogste kosinus, en daardie telling dien as 'n confidence wat jy later kan drempel.

Eerlike raamwerk: in produksie kom daardie vektore van 'n getoë embeddingsmodel ( 'n API-oproep, of 'n sentence-transformer). Ons kan nie een hier laai nie -> daar is geen model weights-lêk nie en geen GPU in die blavier nie. In hierdie les word die vektore aan jou gegee as eenvoudige numpy-arrays. Jy bou die roetingsgeometrie, wat identies is of die nommers nou van 'n regte embedder of van 'n fixture kom. Regte embeddings vul net beter nommers in; die cosine-and-argmax-logika is die deel wat jy versend.

Ties moet deterministies wees. As twee prototipes presies gelyk afstand verwyk, is dit 'n verborge fout om "die een wat eerste in die dict verskyn" te kies -> dict-orde kan verskuif. Breek ties deur die intent te kies wie se naam alfabeties eerste sorteer, sodat dieselfde tie altyd op dieselfde manier oplos.

Bou twee funksies. cosine(a, b) gee die cosine similarity van twee vektore terug en is zero-veilig ( 'n vektor met nul lengte gee 0.0, nooit 'n NaN nie). route_by_prototype(query_vec, prototypes) neem die query-vektor en 'n dict {intent_name: prototype_vector} en gee 'n tuple (best_intent, best_score) terug -> die naaste prototipe en sy cosine, met die alfabetiese tie-break. Druk Run om 'n paar queries te roeer en sien die vertroue waarmee elkeen terugkom.

Jou beurt

Skryf cosine(a, b) = a.b / (|a||b|), en gee 0.0 terug as een van die vektore nul lengte het (geen NaN nie). Skryf dan route_by_prototype(query_vec, prototypes) waar prototypes 'n dict {name: vector} is; gee die tuple (best_name, best_score) terug vir die hoogste cosinus, en breek gelyke resultate deur die alfabeties eerste naam. Hou die starter se PROTOTYPES presies soos dit is: die check lees dit.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.