Müfredat 250 dersinden 225. · Proje: Production AI Gateway
Proje: Production AI Gateway

Abstain Özelliği ile Niyet Sınıflandırıcı

Bitirme projenize hoş geldiniz. Dört ders boyunca kullanıcılarınız ile model arasında duran katmanı yayına alacaksınız: bir AI gateway. Bu katman bir isteğin ne istediğini sınıflandırır, onu doğru işleyiciye yönlendirir, cevapları önbelleğe alır, kötüye kullanımı engeller ve her doları hesaplar. Bu, akıllı bir demoyu bir şirketin gerçekten çalıştırabileceği bir şeye dönüştüren gösterişsiz altyapıdır. Bir özgeçmiş satırında "AI gateway oluşturuldu: sınıflandır, yönlendir, önbelleğe al, koruma katmanı, maliyet hesabı" yazıldığında bir işe alım yöneticisinin kastettiği şey tam olarak budur.

Kapsam hakkında dürüst bir not: bir gateway için uygulama katmanı logic yapısını kuruyorsun (classify, route, semantic-cache, guardrail, cost-account). Gerçekten üretim ortamında çalıştıracağın bir gateway ayrıca onu barındıracak çalışan bir servise, kimlik doğrulamaya, gerçek dağıtık rate-limiting ve bir dağıtıma ihtiyaç duyar. Bunlar bu tarayıcı içi bitirme projesinin kapsamı dışındadır.

İlk durak: ön kapı. Gelen her istek bir metin bloğudur ve onunla akıllıca bir şey yapmadan önce ne olduğunu bilmen gerekir. Bu bir hava durumu sorusu mu? Bir hesap sorunu mu? Bir fatura şikayeti mi? Eldeki birkaç etiketli örnekten öğrenen ve her yeni isteği etiketleyen bir intent classifier oluşturacaksın. Bir oyuncağı gerçek bir sınıflandırıcıdan ayıran püf noktası şudur: neyi bilmediğini bilmemek durumunu bilmelidir. Saçma sapan şeylere güvenle etiket veren bir model, sonraki aşamalarda işe yaramaz olmaktan daha kötüdür, bu yüzden seninki abstain yapacak ve emin olmadığında "unknown" döndürecek.

İki fonksiyonu yazacaksın:

  • train_intent(texts, labels) -> metinleri vektörlere dönüştürmek için bir TfidfVectorizer, üzerine de bir LogisticRegression(random_state=0) ekle. classify tahminler yapmak için gereken her şeyi (bir dict yeterli) döndür. Herkesin aynı sonuçları alması için modeli tohumla.
  • classify(model, text) -> bir (label, confidence) tuple döndür. predict_proba ile sınıf olasılıklarını al, en üsttekini seç ve güven düzeyi bir eşiğin (yaklaşık 0.5) altındaysa bunun yerine ("unknown", confidence) döndür.

Gerçekten dağılım dışı girdileri yakalamanın yolu ucuz ve sağlamdır. TfidfVectorizer.transformnone eğitim kelime dağarcığından hiçbirini içeren bir metin gördüğünde, sonuçta oluşan satır tamamen sıfırdır (.nnz değeri 0'dır). Bu, modelin üzerinde çalışacak hiçbir şeyi olmadığı anlamına gelir, bu yüzden hemen vazgeç:

X = vec.transform([text])
if X.nnz == 0:
    return ("unknown", 0.0)
probs = clf.predict_proba(X)[0]
idx = probs.argmax()
conf = float(probs[idx])
return (clf.classes_[idx], conf) if conf >= 0.5 else ("unknown", conf)

Model hakkında gerçek dünyadan bir not: küçük eğitim setlerinde varsayılan düzenlileştirme her olasılığı şansa yakın tutar, bu yüzden geçerli sorular asla eşiği geçemez. C=10.0 ile düzenlileştirmeyi gevşetmek (ve yakınsaması için max_iter değerini artırmak) modeli yeterince keskinleştirir; böylece gerçek eş anlamlılar güvenle puan alırken çöp veriler geri çekilir. Birkaç etiketli destek sorusu üzerinde eğitmek için Run tuşuna bas ve eş anlamlıların sınıflandırıldığını, anlamsız ifadelerin ise geri çekildiğini izle.

Senin sıran

train_intent(texts, labels)'yi TfidfVectorizer + LogisticRegression(random_state=0) kullanarak yaz (C=10.0 ile gevşet ve küçük verilerin yakınsaması için max_iter'yi yükselt), classify'nin ihtiyaç duyduğu paketi döndür. Sonra (label, confidence) döndüren classify(model, text)'yi yaz: en üst predict_proba sınıfını al, ~0.5 eşiğinin altında ("unknown", conf)'den kaçın ve dönüştürülen satır tamamen sıfır olduğunda (X.nnz == 0) hemen kaçın böylece dağılım dışı veya boş girdi etiketlenemez.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.