Kegagalan produktif: XOR dengan satu neuron
Kenapa ini penting Gagal dengan sengaja di sini mengajarkanmu, lebih baik dari penjelasan apa pun, kenapa jaringan butuh lebih dari satu layer.
XOR ("exclusive or") adalah 1 saat tepat satu dari dua input bernilai 1. Empat titik: (0,0) adalah 0, (0,1) adalah 1, (1,0) adalah 1, (1,1) adalah 0. Tugas kamu: buat neuron logistik kamu dari pelajaran terakhir mendapatkan keempat jawaban benar. Coba learning rate apa saja, jumlah steps apa saja dan seed apa saja.
Neuron di sini dimulai dari bobot acak. Itu penting: jika dimulai dari semua nol, pada XOR gradiennya tepat 0 karena simetri (empat titik menarik sama kuat ke arah berlawanan), jadi ia tidak akan bergerak sama sekali. Itu kegagalan yang berbeda dari yang dibahas di pelajaran ini, jadi kita abaikan.
Coba fokus sebentar sebelum kamu baca petunjuknya. Berusaha keras di awal adalah intinya: riset tentang pembelajaran menemukan bahwa orang yang mencoba sebuah masalah sebelum diajarkan idenya akan lebih memahaminya setelah itu.
Kata dan simbol di pelajaran ini
- neuron
- w . x + b, lalu sebuah activation
- bobot (w, W), bias (b)
- angka yang dipelajari neuron; bias menggeser outputnya
- sigmoid
- 1 / (1 + exp(-z)): mengubah angka apa pun menjadi 0 sampai 1
- laju pembelajaran (lr)
- seberapa besar setiap langkah pelatihan
Gunakan train_logistic(X, y, lr, steps, seed) pada XOR dengan setidaknya tiga pengaturan berbeda, dan masukkan akurasi setiap hasil ke my_attempts. Lalu atur reason ke huruf dari penjelasan yang benar:
A: butuh lebih banyak langkah. B: satu neuron hanya bisa membagi bidang dengan satu garis lurus, dan tidak ada garis lurus yang memisahkan XOR. C: learning rate salah. D: empat titik terlalu sedikit untuk dipelajari.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.