Câu trả lời có hay không (hồi quy logistic)
Vì sao điều này quan trọng Phần lớn các nhiệm vụ hỏi một hạng mục, không phải một con số: thư rác hay không, mèo hay chó. Một nơ-ron cộng một hàm ép trả lời có hay không kèm một xác suất.
Xem nó
Sigmoid ép bất kỳ con số nào vào khoảng 0 tới 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) khoảng 0.95, sigmoid(-3) khoảng 0.05. Hãy đọc đầu ra là "xác suất câu trả lời là có".
Giá trị mất mát là cross-entropy từ Mô-đun 2 với hai lớp: -mean(y log p + (1 - y) log(1 - p)). Gradient của nó ra đơn giản tuyệt đẹp: grad_w = X.T @ (p - y) / n. Lại là dự đoán trừ sự thật.
Hồi quy logistic (logistic regression): một nơ-ron với một sigmoid, huấn luyện bằng cross-entropy. Nó vẽ một ranh giới đường thẳng giữa hai lớp.
Tóm tắt Chấm điểm, ép thành một xác suất, huấn luyện trên (p - y).
Từ và ký hiệu trong bài học này
- nơ-ron
- w . x + b, rồi một hàm kích hoạt
- sigmoid
- 1 / (1 + exp(-z)): ép bất kỳ con số nào vào khoảng 0 tới 1
- tốc độ học (lr)
- mỗi bước huấn luyện lớn tới đâu
Viết sigmoid(z) và train_logistic(X, y, lr, steps) trả về (w, b), bắt đầu từ các số không. Rồi accuracy(X, y, w, b): tỉ lệ các điểm mà p > 0.5 khớp với nhãn. Đạt ít nhất 90% trên các điểm được giấu từ cùng hai nhóm.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.