Phân cụm để định tuyến và loại trùng (KMeans)
Một khi văn bản là vector, phân cụm mở ra hai việc bạn gặp liên tục trong các hệ thống LLM. Định tuyến ngữ nghĩa: gom các câu nói mẫu thành các cụm (thanh toán, hỗ trợ kỹ thuật, bán hàng), rồi gửi một thông điệp mới tới bộ xử lý có tâm cụm gần nó nhất. Tìm các ứng viên trùng lặp: các tài liệu gần giống hệt rơi vào cùng một cụm, việc này thu hẹp chỗ cần tìm. Chung một cụm không làm hai tài liệu thành trùng lặp (một cụm có thể chứa hàng trăm tài liệu chỉ liên quan với nhau), nên phép kiểm tra thật là một ngưỡng tương đồng trên mỗi cặp trong cụm, hoặc một kỹ thuật như MinHash cho các tập lớn.
KMeans là con ngựa thồ. Bạn cho nó biết bạn muốn bao nhiêu cụm k; nó tìm k tâm cụm và gán mọi vector vào tâm gần nhất. scikit-learn làm phần việc nặng:
from sklearn.cluster import KMeans
model = KMeans(n_clusters=k, random_state=0, n_init=10)
labels = model.fit_predict(vectors) # cluster index per input vector
model.cluster_centers_ # the k centroids
model.predict(new_vector) # route a NEW vector to a clusterHai điều quyết định thành bại trong thực tế:
- Tính tất định. KMeans bắt đầu từ các tâm cụm ngẫu nhiên, nên bạn phải truyền
random_state=0. Không có nó, cùng dữ liệu có thể cho nhãn khác nhau ở những lần chạy khác nhau, và việc định tuyến của bạn trở nên không tái lập được. (Bản thân các giá trị nhãn số nguyên chỉ là tên tùy ý; điều quan trọng là những điểm nào chung một nhãn.) - Định tuyến một điểm mới dùng
predicttrên mô hình đã fit, việc này gán nó vào tâm cụm gần nhất. Bạn không fit lại.
Hai nhóm điểm tách biệt rõ phải rơi vào hai cụm gọn gàng, và một điểm mới nằm trong một nhóm phải được định tuyến tới cụm của nhóm đó.
Xây hai hàm. cluster_route(vectors, k) fit KMeans(n_clusters=k, random_state=0, n_init=10) trên vectors và trả về một tuple (labels, model), trong đó labels là một list chỉ số cụm (một cho mỗi vector đầu vào). route_new(model, vector) trả về chỉ số cụm (một int) mà một vector mới được định tuyến tới qua mô hình đã fit.
Viết hai hàm. cluster_route(vectors, k) fit KMeans(n_clusters=k, random_state=0, n_init=10) trên các vector và trả về một tuple (labels, model): labels là một list với một chỉ số cụm cho mỗi vector, và model là estimator đã fit. route_new(model, vector) trả về chỉ số cụm (int) mà một vector mới được định tuyến tới bằng mô hình đã fit. Hai nhóm tách biệt rõ phải rơi vào hai cụm riêng, một vector mới phải được định tuyến tới tâm cụm gần nhất, số cụm riêng biệt phải bằng k, và kết quả phải giống hệt giữa các lần chạy nhờ random_state=0.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.