Chương trình học Bài 197 trên tổng số 250 · Học máy bao quanh LLM
Học máy bao quanh LLM

Định tuyến embedding tới nguyên mẫu

Một bộ phân loại cần dữ liệu huấn luyện có nhãn. Đôi khi bạn không có -> bạn chỉ có một nắm truy vấn ví dụ cho mỗi ý định. Bộ định tuyến rẻ nhất khi đó là nguyên mẫu gần nhất: biểu diễn mỗi ý định bằng một vector ("nguyên mẫu" của nó, thường là embedding trung bình của vài ví dụ), embed truy vấn đến, và định tuyến nó tới nguyên mẫu nào nó chỉ thẳng vào nhất.

"Chỉ thẳng vào nhất" nghĩa là độ tương đồng cosine: cosine của góc giữa hai vector, bỏ qua độ dài của chúng. Đó là thước đo đúng cho văn bản vì một tài liệu dài và một tài liệu ngắn về cùng chủ đề vẫn nên khớp nhau.

cosine(a, b) = (a . b) / (|a| |b|)

Một giá trị gần 1.0 nghĩa là các vector chỉ cùng hướng (cùng ý định); gần 0.0 nghĩa là không liên quan. Bộ định tuyến chọn nguyên mẫu có cosine cao nhất, và điểm đó cũng đóng vai trò một độ tin cậy mà bạn có thể đặt ngưỡng sau.

Nói thẳng: trong môi trường thật, các vector đó đến từ một mô hình embedding đã huấn luyện (một lệnh gọi API, hoặc một sentence-transformer). Ta không thể tải một mô hình như vậy ở đây -> không có tệp trọng số mô hình và không có GPU trong trình duyệt. Nên trong bài này các vector được đưa cho bạn dưới dạng mảng numpy thường. Bạn đang xây hình học định tuyến, thứ giống hệt nhau dù các con số đến từ một bộ embed thật hay từ dữ liệu mẫu. Embedding thật chỉ điền vào những con số tốt hơn; logic cosine-và-argmax là phần bạn đưa vào sản phẩm.

Các trường hợp hòa phải có tính quyết định. Nếu hai nguyên mẫu cách đều nhau tuyệt đối, chọn "cái nào tình cờ đứng trước trong dict" là một lỗi tiềm ẩn -> thứ tự dict có thể thay đổi. Hãy phá thế hòa bằng cách chọn ý định có tên đứng trước theo bảng chữ cái, để cùng một thế hòa luôn được giải theo cùng một cách.

Xây hai hàm. cosine(a, b) trả về độ tương đồng cosine của hai vector và an toàn với số không (một vector độ dài không trả về 0.0, không bao giờ là NaN). route_by_prototype(query_vec, prototypes) nhận vector truy vấn và một dict {intent_name: prototype_vector} rồi trả về một tuple (best_intent, best_score) -> nguyên mẫu gần nhất và cosine của nó, với cách phá thế hòa theo bảng chữ cái. Bấm Chạy để định tuyến vài truy vấn và xem độ tin cậy mỗi truy vấn nhận được.

Đến lượt bạn

Viết cosine(a, b) = a.b / (|a||b|), trả về 0.0 khi một trong hai vector có độ dài không (không có NaN). Sau đó viết route_by_prototype(query_vec, prototypes) trong đó prototypes là một dict {name: vector}; trả về tuple (best_name, best_score) cho cosine cao nhất, phá các thế hòa tuyệt đối bằng tên đứng trước theo bảng chữ cái. Giữ nguyên PROTOTYPES của mã khởi đầu: phần kiểm tra đọc nó.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.