Müfredat 250 dersinden 196. · LLM'in Etrafındaki ML
LLM'in Etrafındaki ML

Niyet Sınıflandırma (TF-IDF + LogisticRegression)

Her "yapay zeka özelliği" büyük bir dil modeli gerektirmez. Üretim aşamasındaki LLM uygulamalarının büyük bir kısmı, modelin önüne küçük ve sıkıcı bir classifier koyar in önüne model: gelen mesajı okur, ne tür bir istek olduğuna karar verir (fatura mı? bir hata raporu mu? hesap değişikliği mi?) ve buna göre yönlendirir. Bu karar hızlıdır, ücretsizdir, çevrimdışı çalışır ve deterministiktir -> aynı girdi her zaman aynı cevabı verir. Sadece gerçekten birine ihtiyaç duyduğunuzda pahalı bir LLM çağrısı yaparsınız.

Kısa metinler için iş yükünü çeken araç TfidfVectorizer + LogisticRegression. TF-IDF her mesajı ağırlıklı kelime sayılarından oluşan seyrek bir vektöre dönüştürür; logistic regression niyet sınıfları arasında doğrusal bir sınır öğrenir. Birkaç düzine etiketli örnekle milisaniyeler içinde eğitilir ve mikrosaniyelerde sınıflandırır.

İkisini Pipeline ile tek bir nesneye bağlayacaksın böylece vectorizer ve classifier bir bütün olarak birlikte uyarlanacak ve uygulanacak:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline

pipe = Pipeline([
    ("tfidf", TfidfVectorizer()),
    ("clf", LogisticRegression(random_state=0, max_iter=1000)),
])
pipe.fit(texts, labels)
pipe.predict(["can I get a refund"])   # -> array(['billing'])

Neden random_state=0? Sahip olunmaya değer bir alışkanlık. Buradaki varsayılan solver (lbfgs) deterministiktir, bu yüzden bu pipeline seed olsun ya da olmasın aynı ağırlıkları verir. Ancak diğer solverlar (saga, liblinear) veriyi karıştırır ve birçok scikit-learn modeli (random forests, k-means, train/test splits) tasarım gereği rastgeledir; orada seed eğitimi tekrarlanabilir kılan şeydir. Bunu her yere yazmak, ileride yapılacak bir solver veya model değişikliğinin rotanı gizlice her çalışmada değiştiremeyeceği anlamına gelir. Kurs her yerde bu kuralı takip eder.

Bu, LLM ile tam olarak zıtlık oluşturuyor. Bir model çağrısı deterministik değildir, para maliyeti çıkarır ve gecikme ekler. Niyeti öğrendikten sonra aşağı akışa bağlayabileceğin fallback türü şudur (bağlam için gösterildi, asla not verilmez):

# Pseudocode: only AFTER the cheap classifier is unsure do you reach for the model.
intent = pipe.predict([msg])[0]
if intent == "general":
    reply = await window._floatiTutor.complete(msg)   # the on-device LLM

İki fonksiyon oluştur. train_classifier(texts, labels) uygun bir Pipeline (TF-IDF + LogisticRegression ile random_state=0) döndürür. predict(model, new_texts) o modeli ve bir list dizisi alır ve bir list tahmin edilen etiket döndürür. Küçük bir destek bileti seti üzerinde eğitmek ve ayrılmış mesajları doğru ekibe yönlendirmesini izlemek için Run tuşuna bas.

Senin sıran

train_classifier(texts, labels) yaz, sklearn Pipeline döndür, TfidfVectorizer() sonra LogisticRegression(random_state=0, ...), ve giriş dizileri listesi için tahmin edilen etiketler listesi döndüren predict(model, new_texts) yaz. Seed bunu tekrarlanabilir kılar; sınıflandırıcı ayrıştırılmış mesajları doğru niyetlerine göndermeli. Başlangıçtaki TEXTS ve LABELS değerlerini olduğu gibi bırak: kontrol bunları okuyor.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.