Silabus Pelajaran 42 dari 246 · Modul 3: Neuron ke MLP
Modul 3: Neuron ke MLP

Kegagalan produktif: XOR dengan satu neuron

Kenapa ini penting Gagal dengan sengaja di sini mengajarkanmu, lebih baik dari penjelasan apa pun, kenapa jaringan butuh lebih dari satu layer.

XOR ("exclusive or") adalah 1 saat tepat satu dari dua input bernilai 1. Empat titik: (0,0) adalah 0, (0,1) adalah 1, (1,0) adalah 1, (1,1) adalah 0. Tugas kamu: buat neuron logistik kamu dari pelajaran terakhir mendapatkan keempat jawaban benar. Coba learning rate apa saja, jumlah steps apa saja dan seed apa saja.

Neuron di sini dimulai dari bobot acak. Itu penting: jika dimulai dari semua nol, pada XOR gradiennya tepat 0 karena simetri (empat titik menarik sama kuat ke arah berlawanan), jadi ia tidak akan bergerak sama sekali. Itu kegagalan yang berbeda dari yang dibahas di pelajaran ini, jadi kita abaikan.

Coba fokus sebentar sebelum kamu baca petunjuknya. Berusaha keras di awal adalah intinya: riset tentang pembelajaran menemukan bahwa orang yang mencoba sebuah masalah sebelum diajarkan idenya akan lebih memahaminya setelah itu.

Kata dan simbol di pelajaran ini
neuron
w . x + b, lalu sebuah activation
bobot (w, W), bias (b)
angka yang dipelajari neuron; bias menggeser outputnya
sigmoid
1 / (1 + exp(-z)): mengubah angka apa pun menjadi 0 sampai 1
laju pembelajaran (lr)
seberapa besar setiap langkah pelatihan
Giliranku

Gunakan train_logistic(X, y, lr, steps, seed) pada XOR dengan setidaknya tiga pengaturan berbeda, dan masukkan akurasi setiap hasil ke my_attempts. Lalu atur reason ke huruf dari penjelasan yang benar:

A: butuh lebih banyak langkah. B: satu neuron hanya bisa membagi bidang dengan satu garis lurus, dan tidak ada garis lurus yang memisahkan XOR. C: learning rate salah. D: empat titik terlalu sedikit untuk dipelajari.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.