تصنيف النوايا (TF-IDF + LogisticRegression)
لا تحتاج كل "ميزة ذكاء اصطناعي" إلى نموذج لغوي كبير. تضع نسبة ضخمة من تطبيقات LLM الإنتاجية مصنفاً صغيراً ومملاً أمام النموذج: يقرأ الرسالة الواردة، ويقرر نوع الطلب (هل هو فاتورة؟ أم تقرير خطأ؟ أم تغيير حساب؟)، ويوجهه وفقاً لذلك. هذا القرار سريع، ومجاني، ويعمل دون اتصال بالإنترنت، وهو deterministic -> المدخل نفسه يعطي دائماً الإجابة نفسها. أنت تنفق استدعاء LLM مكلفاً فقط عندما تحتاجه فعلياً.
الأداة الأساسية للنصوص القصيرة هي TfidfVectorizer + LogisticRegression. تحول TF-IDF كل رسالة إلى sparse vector من weighted word counts؛ ويتعلم logistic regression حدودا خطية بين intent classes. على بضع عشرات من الأمثلة الملحوظة، يتم التدريب في أجزاء من الثانية والتصنيف في أجزاء من الميكروثانية.
ستقوم بتوصيل الاثنين في كائن واحد باستخدام Pipeline بحيث يتم ملاءمة وتطبيق vectorizer و classifier معاً كوحدة واحدة:
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
pipe = Pipeline([
("tfidf", TfidfVectorizer()),
("clf", LogisticRegression(random_state=0, max_iter=1000)),
])
pipe.fit(texts, labels)
pipe.predict(["can I get a refund"]) # -> array(['billing'])لماذا random_state=0? عادة تستحق الاقتناء. المحلل الافتراضي هنا (lbfgs) حتمي، لذا يعطي هذا الخط الأوزان نفسها مع أو بدون seed. لكن المحللات الأخرى (saga, liblinear) تقوم بخلط البيانات، والعديد من نماذج scikit-learn (random forests, k-means, train/test splits) عشوائية بالتصميم؛ هناك يكون seed هو ما يجعل التدريب قابلاً لإعادة الإنتاج. كتابته في كل مكان تعني أن تغييراً لاحقاً للمحلل أو النموذج لا يمكنه تغيير مسار التوجيه بين التشغيلات دون ملاحظة. يتبع المساق هذه القاعدة في كل مكان.
هذا هو التباين تماما مع الـ LLM. استدعاء النموذج غير حتمي، ويكلف مالا، ويضيف تأخيرا. هذا هو نوع الـ fallback الذي قد تربطه في الـ downstream بمجرد معرفة الـ intent (معروض للسياق، ولا يتم تقييمه أبدا):
# Pseudocode: only AFTER the cheap classifier is unsure do you reach for the model.
intent = pipe.predict([msg])[0]
if intent == "general":
reply = await window._floatiTutor.complete(msg) # the on-device LLMقم ببناء دالتين. train_classifier(texts, labels) تعيد نموذج Pipeline (TF-IDF + LogisticRegression مع random_state=0). predict(model, new_texts) تأخذ ذلك النموذج و list من النصوص وتعيد list من التصنيفات المتوقعة. اضغط Run للتدريب على مجموعة صغيرة من تذاكر الدعم وشاهدها وهي توجه الرسائل المحجوزة إلى الفريق الصحيح.
اكتب train_classifier(texts, labels) الذي يعيد sklearn Pipeline لـ TfidfVectorizer() ثم LogisticRegression(random_state=0, ...)، و predict(model, new_texts) الذي يعيد قائمة من labels المتوقعة لقائمة من input strings. يجعل seed العملية قابلة للتكرار؛ يجب أن يرسل classifier رسائل held-out متميزة إلى intents الصحيحة الخاصة بها. أبقِ على TEXTS و LABELS الخاصين بـ starter كما هما: لأن check يقرأهما.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.