Chương trình học Bài 41 trên tổng số 246 · Mô-đun 3: Từ nơ-ron tới MLP
Mô-đun 3: Từ nơ-ron tới MLP

Câu trả lời có hay không (hồi quy logistic)

Vì sao điều này quan trọng Phần lớn các nhiệm vụ hỏi một hạng mục, không phải một con số: thư rác hay không, mèo hay chó. Một nơ-ron cộng một hàm ép trả lời có hay không kèm một xác suất.

Xem nó

Sigmoid ép bất kỳ con số nào vào khoảng 0 tới 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) khoảng 0.95, sigmoid(-3) khoảng 0.05. Hãy đọc đầu ra là "xác suất câu trả lời là có".

Giá trị mất mát là cross-entropy từ Mô-đun 2 với hai lớp: -mean(y log p + (1 - y) log(1 - p)). Gradient của nó ra đơn giản tuyệt đẹp: grad_w = X.T @ (p - y) / n. Lại là dự đoán trừ sự thật.

Hồi quy logistic (logistic regression): một nơ-ron với một sigmoid, huấn luyện bằng cross-entropy. Nó vẽ một ranh giới đường thẳng giữa hai lớp.

Tóm tắt Chấm điểm, ép thành một xác suất, huấn luyện trên (p - y).

Từ và ký hiệu trong bài học này
nơ-ron
w . x + b, rồi một hàm kích hoạt
sigmoid
1 / (1 + exp(-z)): ép bất kỳ con số nào vào khoảng 0 tới 1
tốc độ học (lr)
mỗi bước huấn luyện lớn tới đâu
Đến lượt bạn

Viết sigmoid(z) và train_logistic(X, y, lr, steps) trả về (w, b), bắt đầu từ các số không. Rồi accuracy(X, y, w, b): tỉ lệ các điểm mà p > 0.5 khớp với nhãn. Đạt ít nhất 90% trên các điểm được giấu từ cùng hai nhóm.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.