Hiệu chỉnh việc từ chối: từ chối quá mức và từ chối thiếu
Chặn tấn công chỉ là một nửa của an toàn. Nửa kia là không chặn quá tay. Một mô hình từ chối mọi câu hỏi hơi cay một chút là an toàn và vô dụng, thứ tương đương về an toàn của một chiếc báo khói kêu khi bạn nướng bánh mì. Bạn cần đo cả hai kiểu thất bại trên cùng một tập có nhãn và chỉnh đường ranh giữa chúng.
Lấy một tập prompt mỗi cái được gán nhãn với điều ứng dụng nên làm: "refuse" (thật sự gây hại) hoặc "answer" (vô hại). Lớp canh gác của bạn tạo ra một điểm rủi ro cho mỗi prompt, và bạn từ chối khi điểm vượt qua một ngưỡng. Hai lỗi có thể xảy ra:
- Từ chối quá mức (một dương tính giả): bạn từ chối một prompt mà lẽ ra nên trả lời. Khó chịu, đẩy người dùng đi.
- Từ chối thiếu (một âm tính giả): bạn trả lời một prompt mà lẽ ra nên từ chối. Nguy hiểm, rủi ro lên trang nhất.
Coi "refuse" là lớp dương, các thước đo chuẩn kể toàn bộ câu chuyện:
precision = TP / (TP + FP) # of what I refused, how much truly needed refusing
recall = TP / (TP + FN) # of the truly-harmful, how much I caught
f1 = 2 * P * R / (P + R)Precision thấp nghĩa là bạn đang từ chối quá mức (nhiều prompt vô hại trong các lần từ chối của bạn). Recall thấp nghĩa là bạn đang từ chối thiếu (các prompt gây hại lọt qua). Chúng đánh đổi nhau khi bạn dời ngưỡng: từ chối mạnh tay và recall tăng trong khi precision giảm; từ chối dè dặt thì ngược lại. Bạn sẽ viết refusal_metrics(scores, labels, threshold) rồi best_threshold(scores, labels, candidates) quét các ngưỡng ứng viên và trả về cái có F1 cao nhất, con số duy nhất không để lỗi nào chạy mất kiểm soát.
Hai chi tiết đúng đắn mà bài kiểm tra soát. Từ chối khi score >= threshold (lớn hơn hoặc bằng, nên một điểm đúng trên vạch sẽ từ chối). Và khi mẫu số của một thước đo bằng không (bạn không từ chối gì, nên precision không xác định) thì trả về 0.0 thay vì bị lỗi. Các thước đo của bạn phải khớp với precision_score, recall_score, và f1_score của scikit-learn với zero_division=0, vì bạn không bao giờ nên đưa vào sản phẩm các thước đo tự viết mà lệch với thư viện đã được kiểm thử.
Viết refusal_metrics(scores, labels, threshold) trong đó labels là "refuse"/"answer" và bạn dự đoán từ chối khi score >= threshold. Coi "refuse" là lớp dương và trả về {"precision", "recall", "f1"}, mỗi cái được round tới 4 chữ số, với 0.0 cho mọi thước đo có mẫu số bằng không (phải khớp với sklearn với zero_division=0). Sau đó viết best_threshold(scores, labels, candidates) trả về ứng viên có F1 cao nhất (ngưỡng thấp nhất thắng khi hòa), và gán best = best_threshold(SCORES, LABELS, CANDIDATES).
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.