Müfredat 246 dersinden 49. · Modül 3: Nörondan MLP'ye
Modül 3: Nörondan MLP'ye

Düz NumPy ile bir rakam okuyucu

Neden önemli Bu, gerçek el yazısını okuyan gerçek bir sinir ağı, ve her satırını sen yazdın. Kütüphanesiz kurulmuş, klasik ilk ağdır.

Veri, her biri 64 sayıya düzleştirilmiş 8'e 8'lik bir resim olan 1.797 el yazısı rakamdır (ünlü 28'e 28'lik MNIST kümesinin farklı bir koleksiyondan gelen küçük, düşük çözünürlüklü bir kuzeni). Ağ son dersteki ağdır: 64 girdi, 64 ReLU nöronluk bir gizli katman ve 10 çıktı.

Eğitim döngüsü

  1. Ağırlıkları küçük ve rastgele başlat: rng.normal(0, 0.1, shape), sapmalar sıfırda.
  2. Her epokta eğitim verisini karıştır ve 32'lik mini batch'ler halinde üzerinden geç.
  3. Her mini batch için forward_backward çalıştır ve her ağırlığı gradyanına karşı adımla.

Mini batch: bir adım için kullanılan verinin küçük rastgele bir dilimi. Her adımda bütün veriyi kullanmaktan çok daha hızlıdır, ve gürültü hatta işe yarar.

Eğriyi Tahmin Et: 1. epoktan ve 20. epoktan sonraki eğitim kaybını my_guess içinde tahmin et.

Özet Karıştır, dilimle, ileri, geri, adım. Tekrarla.

Bu dersteki kelimeler ve semboller
nöron
w . x + b, sonra bir aktivasyon
ağırlıklar (w, W), sapma (b)
bir nöronun öğrendiği sayılar; sapma çıktısını kaydırır
ReLU
max(0, z): pozitifleri tutar, negatifleri sıfırlar
öğrenme oranı (lr)
her eğitim adımının ne kadar büyük olduğu
gizli katman
girdi ile çıktı arasında yeni özellikler kuran bir katman
Senin sıran

forward_backward fonksiyonunu kullanarak bir ağırlıklar sözlüğü döndüren train(X, y, hidden, lr, epochs, seed) ve her satır için tahmin edilen rakamı döndüren predict(params, X) yaz. my_guess doldur. Gizli test, hiç üzerinde eğitmediğin 397 rakamda doğruluğu ölçer: en az %95'e ulaş. (lr 0.5, 20 epok, 64 gizli çalışır.)

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.