سرفصل‌ها درس 196 از 250 · ML در اطراف LLM
ML در اطراف LLM

طبقه‌بندی هدف (TF-IDF + رگرسیون لجستیک)

هر «ویژگی هوش مصنوعی» به یک مدل زبان بزرگ (LLM) نیاز ندارد. بخش عظیمی از اپلیکیشن‌های تولیدی مبتنی بر LLM، یک طبقه‌بند کوچک و بی‌روح را در جلوی مدل قرار می‌دهند: این طبقه‌بند پیام ورودی را می‌خواند، تشخیص می‌دهد که نوع درخواست چیست (صورتحساب؟ گزارش باگ؟ تغییر حساب کاربری؟) و بر اساس آن مسیریابی می‌کند. این تصمیم‌گیری سریع، رایگان، آفلاین و قطعی است -> یک ورودی یکسان همیشه پاسخ یکسانی را می‌دهد. شما تنها زمانی که واقعاً به آن نیاز دارید، یک فراخوانی پرهزینه مدل زبان بزرگ (LLM) را انجام می‌دهید.

اسب کار برای متن‌های کوتاه، ... است. TfidfVectorizer + LogisticRegression. TF-IDF هر پیام را به یک بردار پراکنده از شمارش‌های کلمات وزنی تبدیل می‌کند؛ رگرسیون لجستیک یک مرز خطی بین کلاس‌های نیت یاد می‌گیرد. این مدل با چند ده نمونه برچسب‌خورده در عرض میلی‌ثانیه‌ها آموزش می‌بیند و در عرض میکروثانیه‌ها دسته‌بندی می‌کند.

شما این دو را با یک ... به یک شیء واحد متصل خواهید کرد. Pipeline تا اینکه وکتورساز و طبقه‌بند با هم به‌عنوان یک واحد آموزش دیده و اعمال شوند:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline

pipe = Pipeline([
    ("tfidf", TfidfVectorizer()),
    ("clf", LogisticRegression(random_state=0, max_iter=1000)),
])
pipe.fit(texts, labels)
pipe.predict(["can I get a refund"])   # -> array(['billing'])

چرا random_state=0؟ عادتی که ارزش دارد. حل‌کنندهٔ پیش‌فرض اینجا (lbfgs) تعیین‌کننده‌اند، بنابراین این خط لوله با یا بدون seed وزن‌های یکسانی را ارائه می‌دهد. اما سایر حل‌کننده‌ها (saga, liblinear) داده‌ها را مرتب‌سازی (shuffle) می‌کنند، و بسیاری از مدل‌های scikit-learn (جنگل‌های تصادفی، k-means، تقسیم‌بندی آموزش/آزمون) ذاتاً تصادفی هستند؛ در این مدل‌ها، seed است که آموزش را قابل بازتولید می‌کند. نوشتن آن در همه‌جا به این معناست که تغییر بعدی در حل‌کننده یا مدل نمی‌تواند بی‌سروصدا مسیر شما را بین اجراها تغییر دهد. این دوره در همه‌جا از این قاعده پیروی می‌کند.

این دقیقاً در تضاد با LLM است. فراخوانی یک مدل غیرقطعی است، هزینه دارد و تأخیر اضافه می‌کند. در اینجا نوعی مکانیزم پشتیبان وجود دارد که ممکن است پس از شناخت نیت، در مراحل بعدی پیاده‌سازی کنید (برای زمینه نشان داده شده، هرگز نمره‌دهی نمی‌شود):

# Pseudocode: only AFTER the cheap classifier is unsure do you reach for the model.
intent = pipe.predict([msg])[0]
if intent == "general":
    reply = await window._floatiTutor.complete(msg)   # the on-device LLM

دو تابع بسازید. train_classifier(texts, labels) یک مدل برازش‌شده را بازمی‌گرداند Pipeline (TF-IDF + LogisticRegression با random_state=0). predict(model, new_texts) آن مدل و یک لیست از رشته‌ها را می‌گیرد و یک لیست از برچسب‌های پیش‌بینی‌شده را بازمی‌گرداند. دکمه Run را فشار دهید تا روی یک مجموعه کوچک از تیکت‌های پشتیبانی آموزش دهید و ببینید چگونه پیام‌های کنار گذاشته شده را به تیم مناسب مسیریابی می‌کند.

نوبت شما

نوشتن train_classifier(texts, labels) بازگرداندن یک sklearn مناسب Pipeline از TfidfVectorizer() سپس LogisticRegression(random_state=0, ...)، و predict(model, new_texts) بازگرداندن فهرستی از برچسب‌های پیش‌بینی‌شده برای فهرستی از رشته‌های ورودی. seed باعث می‌شود قابل بازتولید باشد؛ طبقه‌بندی‌کننده باید پیام‌های نگه‌داشته‌شدهٔ متمایز را به نیت‌های صحیح خود ارسال کند. نگهدارید starter's TEXTS و LABELS همان‌طور که هستند: چک آن‌ها را می‌خواند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.