Intent Classifier met Abstain
Welkom bij je capstone build. Over vier lessen bouw je de laag die tussen je gebruikers en het model zit: een AI gateway die classificeert wat een verzoek wil, het naar de juiste handler stuurt, antwoorden cachet, beschermt tegen misbruik en elke dollar bijhoudt. Dit is de onopvallende infrastructuur die een slimme demo verandert in iets dat een bedrijf echt kan draaien, en dit is precies wat een hiring manager bedoelt wanneer een regel op een cv luidt "built an AI gateway: classify, route, cache, guardrail, cost-account."
Eer een eerlijke opmerking over de reikwijdte: je bouwt de applicatielaag logic van een gateway (classify, route, semantic-cache, guardrail, cost-account). Een gateway die je echt in productie zou draaien heeft ook een draaiende service nodig om het te hosten, authenticatie, echte gedistribueerde rate-limiting en een deployment, wat buiten deze in-browser capstone valt.
Eerste stop: de voordeur. Elke aanvraag die binnenkomt is een brok tekst, en voordat je er iets slim mee kunt doen moet je weten wat het is. Is dit een weervraag? Een accountprobleem? Een factuurklacht? Je bouwt een intent classifier die leert van een handvol gelabelde voorbeelden en elke nieuwe aanvraag tagt. De valkuil die een speltje van een echte classifier onderscheidt: het moet weten wanneer het niet weet. Een model dat zelfverzekerd onzin labelt is slechter dan nutteloos verderop, dus de jouwe zal afstand nemen en "unknown" wanneer het niet zeker is.
Je gaat twee functies schrijven:
train_intent(texts, labels)-> pas eenTfidfVectorizertoe om de teksten om te zetten naar vectoren, dan eenLogisticRegression(random_state=0)erbovenop. Geef het pakketje terug (een dictionary is prima) datclassifynodig heeft om voorspellingen te doen. Zet een seed voor het model zodat iedereen identieke resultaten krijgt.classify(model, text)-> geef een(label, confidence)tuple terug. Haal de klasse-waarschijnlijkheden op metpredict_proba, neem de hoogste en als de betrouwbaarheid daaronder ligt (ongeveer0.5), geef dan("unknown", confidence)terug.
De truc om input die echt buiten de distributie valt te vangen is goedkoop en robuust. Wanneer TfidfVectorizer.transform tekst ziet met none van de trainingswoordenschat, is de resulterende rij helemaal nullen (zijn .nnz is 0). Dat is je signaal dat het model niets heeft om op te bouwen, dus onthoud dan direct:
X = vec.transform([text])
if X.nnz == 0:
return ("unknown", 0.0)
probs = clf.predict_proba(X)[0]
idx = probs.argmax()
conf = float(probs[idx])
return (clf.classes_[idx], conf) if conf >= 0.5 else ("unknown", conf)Eén echte noot over het model: bij kleine trainingssets zorgt de standaard regularisatie ervoor dat elke waarschijnlijkheid rond kans blijft hangen, dus legitieme vragen halen de drempel nooit. Het versoepelen van regularisatie met C=10.0 (en max_iter verhogen zodat het convergeert) maakt het model scherp genoeg zodat echte parafrases zelfverzekerd scoren terwijl junk zich nog steeds onthoudt. Druk op Run om te trainen op een paar gelabelde supportvragen en kijk hoe parafrases worden geclassificeerd terwijl onzin zich terugtrekt.
Schrijf train_intent(texts, labels) met TfidfVectorizer + LogisticRegression(random_state=0) (verzacht met C=10.0 en verhoog max_iter zodat kleine data convergeert), en geef wat pakket classify nodig heeft terug. Schrijf dan classify(model, text) die (label, confidence) teruggeeft: neem de bovenste predict_proba klasse, onthoud ("unknown", conf) onder een ~0.5 drempel, en onthoud direct wanneer de getransformeerde rij alleen nullen bevat (X.nnz == 0) zodat off-distribution of lege input niet gelabeld kan worden.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.