Silabus Pelajaran 41 dari 246 · Modul 3: Neuron ke MLP
Modul 3: Neuron ke MLP

Jawaban ya atau tidak (logistic regression)

Kenapa ini penting Kebanyakan tugas meminta kategori, bukan angka: spam atau bukan, kucing atau anjing. Satu neuron ditambah fungsi squashing menjawab ya atau tidak dengan sebuah probabilitas.

Lihat sendiri

Sigmoid menekan angka apa pun ke dalam rentang 0 sampai 1: sigmoid(z) = 1 / (1 + exp(-z)). sigmoid(0) = 0.5, sigmoid(3) sekitar 0.95, sigmoid(-3) sekitar 0.05. Baca output sebagai "probabilitas jawaban adalah ya".

Loss adalah cross-entropy dari Module 2 dengan dua kelas: -mean(y log p + (1 - y) log(1 - p)). Gradiennya keluar dengan sangat sederhana: grad_w = X.T @ (p - y) / n. Prediksi dikurangi kebenaran lagi.

Regresi logistik: satu neuron dengan sigmoid, dilatih dengan cross-entropy. Ini membuat batas garis lurus antara dua kelas.

Ringkasan Skor, ubah ke probabilitas, latih pada (p - y).

Kata dan simbol di pelajaran ini
neuron
w . x + b, lalu sebuah activation
sigmoid
1 / (1 + exp(-z)): mengubah angka apa pun menjadi 0 sampai 1
laju pembelajaran (lr)
seberapa besar setiap training step
Giliranku

Tulis sigmoid(z) dan train_logistic(X, y, lr, steps) yang mengembalikan (w, b), mulai dari nol. Lalu accuracy(X, y, w, b): bagian dari titik di mana p > 0.5 cocok dengan label. Capai setidaknya 90% pada titik tersembunyi dari dua kelompok yang sama.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.