Klasifikasi Niat (TF-IDF + LogisticRegression)
Tidak semua "fitur AI" butuh model bahasa besar. Sebagian besar aplikasi LLM produksi menaruh classifier kecil dan membosankan di depan model: ia membaca pesan yang masuk, memutuskan jenis permintaan apa itu (penagihan? laporan bug? perubahan akun?), dan mengarahkannya sesuai kebutuhan. Keputusan itu cepat, gratis, berjalan offline, dan deterministik -> input yang sama selalu memberikan jawaban yang sama. Kamu hanya menggunakan panggilan LLM yang mahal saat kamu benar-benar membutuhkannya.
Andalan untuk teks pendek adalah TfidfVectorizer + LogisticRegression. TF-IDF mengubah setiap pesan menjadi vektor sparse dari bobot jumlah kata; logistic regression mempelajari batas linear antar kelas intent. Pada beberapa puluh contoh berlabel, ia berlatih dalam milidetik dan mengklasifikasi dalam mikrodetik.
Kamu akan menggabungkan keduanya menjadi satu objek dengan Pipeline supaya vectorizer dan classifier pas dan diterapkan bersama sebagai satu kesatuan:
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import Pipeline
pipe = Pipeline([
("tfidf", TfidfVectorizer()),
("clf", LogisticRegression(random_state=0, max_iter=1000)),
])
pipe.fit(texts, labels)
pipe.predict(["can I get a refund"]) # -> array(['billing'])Kenapa random_state=0? Kebiasaan yang bagus untuk dimiliki. Solver default di sini (lbfgs) bersifat deterministik, jadi pipeline ini memberikan bobot yang sama dengan atau tanpa seed. Tapi solver lain (saga, liblinear) mengacak data, dan banyak model scikit-learn (random forests, k-means, train/test splits) memang dirancang secara acak; di sana seed adalah hal yang membuat pelatihan bisa direproduksi. Menulisnya di mana saja berarti perubahan solver atau model nantinya tidak akan diam-diam membuat routing kamu berubah antar jalankan. Kursus ini mengikuti aturan ini di mana saja.
Ini adalah kontras yang nyata dengan LLM. Pemanggilan model bersifat non-deterministik, memakan biaya, dan menambah latensi. Berikut adalah jenis fallback yang mungkin kamu pasang di downstream setelah kamu mengetahui intent (ditampilkan untuk konteks, tidak dinilai):
# Pseudocode: only AFTER the cheap classifier is unsure do you reach for the model.
intent = pipe.predict([msg])[0]
if intent == "general":
reply = await window._floatiTutor.complete(msg) # the on-device LLMBuat dua fungsi. train_classifier(texts, labels) mengembalikan Pipeline yang sudah dilatih (TF-IDF + LogisticRegression dengan random_state=0). predict(model, new_texts) mengambil model itu dan list berisi string lalu mengembalikan list berisi label prediksi. Tekan Run untuk melatih pada set tiket bantuan kecil dan lihat cara ia mengarahkan pesan yang disimpan ke tim yang tepat.
Tulis train_classifier(texts, labels) yang mengembalikan sklearn Pipeline dari TfidfVectorizer() lalu LogisticRegression(random_state=0, ...), dan predict(model, new_texts) yang mengembalikan daftar label prediksi untuk daftar string input. Seed membuatnya bisa direproduksi; classifier harus mengirim pesan held-out yang berbeda ke intent yang benar. Biarkan TEXTS dan LABELS milik starter tetap seperti apa adanya: pengecekan membacanya.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.