Hồi quy logistic và xác suất
Cây quyết định cho bạn một nhãn. Nhưng các hệ thống thật thường cần nhiều hơn "spam" hay "không spam" -> chúng cần biết mô hình chắc chắn đến đâu, để bạn đặt một ngưỡng, từ chối trả lời khi không chắc, hoặc tự động định tuyến các trường hợp chắc chắn. Mô hình chủ lực cho việc đó là hồi quy logistic, và dù tên như vậy nó là một bộ phân loại, không phải một mô hình hồi quy.
Đây là ý tưởng duy nhất đằng sau nó. Một mô hình tuyến tính tính một tổng có trọng số của các đặc trưng, có thể là bất kỳ số nào từ âm vô cùng tới dương vô cùng. Hồi quy logistic nén con số đó qua hàm sigmoid thành một xác suất giữa 0 và 1:
sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018 z = 0 -> 0.5 z = 4 -> 0.982Vậy mô hình xuất ra P(class = 1). Bất cứ thứ gì trên 0.5 dự đoán lớp 1, bất cứ thứ gì dưới dự đoán lớp 0, và một giá trị gần 0.5 là mô hình nói "tôi không chắc." Con số duy nhất đó là thứ mà mọi mẹo ngưỡng độ tin cậy và định tuyến phía sau trong khóa học này được xây trên đó.
Mã là cùng nghi thức fit/predict như cây, với một phương thức mới, predict_proba, trả về các xác suất thay vì các nhãn cứng:
from sklearn.linear_model import LogisticRegression
clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X) # hard labels: 0 or 1
clf.predict_proba(X) # one [P(0), P(1)] row per sample, each row sums to 1Bạn sẽ huấn luyện nó trên một tập dữ liệu tí hon, trực quan: số giờ học so với việc một học sinh có đậu hay không. Ít giờ -> trượt (0), nhiều giờ -> đậu (1). Vì khuôn mẫu đơn điệu, mô hình đã fit phải cho xác suất đậu cao hơn cho người học nhiều hơn. Hai cột của predict_proba là P(class 0) và P(class 1) theo thứ tự của clf.classes_ (ở đây là [0, 1]), nên cột chỉ số 1 là xác suất đậu.
Một tập dữ liệu 1 đặc trưng được cho: hours đã học và passed (0 hoặc 1). (1) Tạo một LogisticRegression() và fit nó trên X, y. (2) Lưu các nhãn cứng cho X vào preds. (3) Dùng predict_proba để lưu xác suất đậu (lớp 1) khi học 2 giờ vào p_low, và khi học 7 giờ vào p_high. Mô hình phải đủ tự tin để p_high > p_low, và cả hai đều là xác suất thật giữa 0 và 1.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.