طبقهبندی هدف (TF-IDF + رگرسیون لجستیک)
هر «ویژگی هوش مصنوعی» به یک مدل زبان بزرگ (LLM) نیاز ندارد. بخش عظیمی از اپلیکیشنهای تولیدی مبتنی بر LLM، یک طبقهبند کوچک و بیروح را در جلوی مدل قرار میدهند: این طبقهبند پیام ورودی را میخواند، تشخیص میدهد که نوع درخواست چیست (صورتحساب؟ گزارش باگ؟ تغییر حساب کاربری؟) و بر اساس آن مسیریابی میکند. این تصمیمگیری سریع، رایگان، آفلاین و قطعی است -> یک ورودی یکسان همیشه پاسخ یکسانی را میدهد. شما تنها زمانی که واقعاً به آن نیاز دارید، یک فراخوانی پرهزینه مدل زبان بزرگ (LLM) را انجام میدهید.
اسب کار برای متنهای کوتاه، ... است. TfidfVectorizer + LogisticRegression. TF-IDF هر پیام را به یک بردار پراکنده از شمارشهای کلمات وزنی تبدیل میکند؛ رگرسیون لجستیک یک مرز خطی بین کلاسهای نیت یاد میگیرد. این مدل با چند ده نمونه برچسبخورده در عرض میلیثانیهها آموزش میبیند و در عرض میکروثانیهها دستهبندی میکند.
شما این دو را با یک ... به یک شیء واحد متصل خواهید کرد. Pipeline تا اینکه وکتورساز و طبقهبند با هم بهعنوان یک واحد آموزش دیده و اعمال شوند:
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
pipe = Pipeline([
("tfidf", TfidfVectorizer()),
("clf", LogisticRegression(random_state=0, max_iter=1000)),
])
pipe.fit(texts, labels)
pipe.predict(["can I get a refund"]) # -> array(['billing'])چرا random_state=0؟ عادتی که ارزش دارد. حلکنندهٔ پیشفرض اینجا (lbfgs) تعیینکنندهاند، بنابراین این خط لوله با یا بدون seed وزنهای یکسانی را ارائه میدهد. اما سایر حلکنندهها (saga, liblinear) دادهها را مرتبسازی (shuffle) میکنند، و بسیاری از مدلهای scikit-learn (جنگلهای تصادفی، k-means، تقسیمبندی آموزش/آزمون) ذاتاً تصادفی هستند؛ در این مدلها، seed است که آموزش را قابل بازتولید میکند. نوشتن آن در همهجا به این معناست که تغییر بعدی در حلکننده یا مدل نمیتواند بیسروصدا مسیر شما را بین اجراها تغییر دهد. این دوره در همهجا از این قاعده پیروی میکند.
این دقیقاً در تضاد با LLM است. فراخوانی یک مدل غیرقطعی است، هزینه دارد و تأخیر اضافه میکند. در اینجا نوعی مکانیزم پشتیبان وجود دارد که ممکن است پس از شناخت نیت، در مراحل بعدی پیادهسازی کنید (برای زمینه نشان داده شده، هرگز نمرهدهی نمیشود):
# Pseudocode: only AFTER the cheap classifier is unsure do you reach for the model.
intent = pipe.predict([msg])[0]
if intent == "general":
reply = await window._floatiTutor.complete(msg) # the on-device LLMدو تابع بسازید. train_classifier(texts, labels) یک مدل برازششده را بازمیگرداند Pipeline (TF-IDF + LogisticRegression با random_state=0). predict(model, new_texts) آن مدل و یک لیست از رشتهها را میگیرد و یک لیست از برچسبهای پیشبینیشده را بازمیگرداند. دکمه Run را فشار دهید تا روی یک مجموعه کوچک از تیکتهای پشتیبانی آموزش دهید و ببینید چگونه پیامهای کنار گذاشته شده را به تیم مناسب مسیریابی میکند.
نوشتن train_classifier(texts, labels) بازگرداندن یک sklearn مناسب Pipeline از TfidfVectorizer() سپس LogisticRegression(random_state=0, ...)، و predict(model, new_texts) بازگرداندن فهرستی از برچسبهای پیشبینیشده برای فهرستی از رشتههای ورودی. seed باعث میشود قابل بازتولید باشد؛ طبقهبندیکننده باید پیامهای نگهداشتهشدهٔ متمایز را به نیتهای صحیح خود ارسال کند. نگهدارید starter's TEXTS و LABELS همانطور که هستند: چک آنها را میخواند.
مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید
این تمرین بهزودی باز میشود
درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و میتوانید همین الان این درس را بخوانید.
این مرورگر کوکیهای learn.floati.life را مسدود میکند، پس درسهایی که اینجا تمام کردید نمیتوانند به ترتیب باز شوند. کوکیها را برای این سایت مجاز کنید و صفحه را دوباره بارگذاری کنید.