Regresi Logistik & Probabilitas
Decision tree memberimu label. Tapi sistem nyata biasanya butuh lebih dari "spam" atau "not spam" -> mereka butuh seberapa yakin model tersebut, supaya kamu bisa mengatur threshold, abstain saat tidak yakin, atau mengarahkan kasus yang yakin secara otomatis. Model utama untuk itu adalah logistic regression, dan meskipun namanya begitu, ini adalah classifier, bukan regressor.
Ini adalah satu ide di baliknya. Model linear menghitung jumlah berbobot dari fitur, yang bisa berupa angka apa saja dari minus tak hingga sampai plus tak hingga. Regresi logistik menekan angka tersebut melalui fungsi sigmoid menjadi probabilitas antara 0 dan 1:
sigmoid(z) = 1 / (1 + e**(-z))
# z = -4 -> 0.018 z = 0 -> 0.5 z = 4 -> 0.982Jadi model mengeluarkan P(class = 1). Apapun di atas 0.5 memprediksi kelas 1, apapun di bawah memprediksi kelas 0, dan nilai di dekat 0.5 berarti model bilang "Aku tidak yakin." Satu angka itu adalah dasar dari setiap trik confidence-threshold dan routing di kursus ini.
Kodenya sama dengan ritual fit/predict pada tree, dengan satu metode baru, predict_proba, yang mengembalikan probabilitas alih-alih label keras:
from sklearn.linear_model import LogisticRegression
clf = LogisticRegression()
clf.fit(X, y)
clf.predict(X) # hard labels: 0 or 1
clf.predict_proba(X) # one [P(0), P(1)] row per sample, each row sums to 1Kamu akan melatihnya pada dataset kecil yang intuitif: jam belajar versus apakah siswa lulus. Sedikit jam -> gagal (0), banyak jam -> lulus (1). Karena polanya monotonik, model yang dilatih harus memberikan lebih tinggi probabilitas lulus kepada seseorang yang belajar lebih banyak. Dua kolom dari predict_proba adalah P(class 0) dan P(class 1) dalam urutan clf.classes_ (di sini [0, 1]), jadi indeks kolom 1 adalah probabilitas lulus.
Dataset dengan 1 fitur diberikan: hours dipelajari dan passed (0 atau 1). (1) Buat LogisticRegression() dan fit di X, y. (2) Simpan label keras untuk X di preds. (3) Gunakan predict_proba untuk menyimpan probabilitas passing (kelas 1) untuk belajar 2 jam di p_low, dan untuk 7 jam di p_high. Model harus cukup yakin bahwa p_high > p_low, dan keduanya adalah probabilitas nyata antara 0 dan 1.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.