Müfredat 246 dersinden 119. · Modül 10: Gören ağlar (CNN'ler)
Modül 10: Gören ağlar (CNN'ler)

Rakamlar üzerinde küçük bir CNN

Neden önemli Bu, LeNet'in 1998'deki fikridir: evrişim, havuzlama, evrişim, havuzlama, sonra bir sınıflandırıcı. Onu hak ettiğin ev katmanlarından kur ve kaydırılmış rakamlarda MLP'yi geçtiğini gör.

nnsim.engine ev kütüphanesi kurduğun katmanlara sahip: conv (3'e 3, same dolgu), relu, pool2 (2'ye 2 ortalama), gap (küresel ortalama havuzlama), matmul, cross_entropy ve Adam. C_in kanaldan C_out kanala 3'e 3 filtreler için bir evrişim ağırlığının şekli (9 * C_in, C_out)'tur.

Tek kartta ev kütüphanesi (kursun geri kalanı için elinin altında tut; print(E.GUIDE) onu her derste yeniden gösterir)

  • E.T(array) sayıları bir tensöre sarar. .data dizidir (float32); .grad, backward() ona ulaşana kadar None'dır.
  • loss.backward() kaybın bağlı olduğu her tensörde .grad'ı doldurur.
  • opt = E.Adam(params, lr) bir tensör listesi alır. opt.step() gradyanı olan her birini günceller ve sonra .grad'ını tekrar None'a ayarlar, böylece gradyanları asla kendin sıfırlamazsın.
  • Resimler kanal sondadır: (batch, satırlar, sütunlar, kanallar). E.conv(x, w) boyutu korur (same dolgu) ve (9 * C, F) şeklindeki w ile C kanalı F'ye çevirir. E.pool2 satırları ve sütunları yarıya indirir; E.gap onların ortalamasını alıp yok eder, (batch, kanallar) verir.
  • E.cross_entropy(logits, y): tensör olarak logitler (batch, sınıflar), y düz bir tam sayı dizisi. Tek bir sayı tutan bir tensör döndürür; float(loss.data) onu okur.
  • Bütün bir eğitim adımı üç satırdır: loss = E.cross_entropy(forward(Xb), yb), loss.backward(), opt.step().
  • Kaydedilmiş çalıştırmalar: print(R.experiment(name)) ayarlarını ve metriklerinin adlarını listeler; run = exp.run(setting=value, ...), sonra run.loss (adım ve kayıp çiftleri), run.metrics (bir sözlük) ve run.final_loss.

Grafikle Eğriyi Tahmin Et: 1. epoktan ve 8. epoktan (sonuncu) sonraki eğitim kaybını tahmin et.

Bu dersteki kelimeler ve semboller
evrişim
küçük bir ağırlık ızgarasını (bir filtre) bir resim boyunca kaydırmak, konum başına bir iç çarpım
filtre, özellik haritası
öğrenilmiş küçük ağırlık ızgarası; ve onun tepkilerinden oluşan resim
dolgu (p), adım (s)
kenarın etrafına eklenen sıfırlar; filtrenin her adımda kaç piksel ilerlediği
havuzlama
her bloğun maksimumunu ya da ortalamasını tutarak bir haritayı küçültmek
RECORDED
kursun bir kez eğittiği ve incelemen için sunduğu gerçek bir çalıştırma
Senin sıran

my_guess doldur, sonra bir predict(X) fonksiyonu döndüren train(epochs, seed) yaz. conv(1'den 16'ya) + relu, conv(16'dan 32'ye) + relu, küresel ortalama havuzlama, sonra 10 sınıfa doğrusal bir katman kullan. Test rakamlarında en az %90'a, ve 2 piksel kaydırılmış test rakamlarında (MLP'nin yaklaşık %21 aldığı) en az %60'a ulaş. Kaydırılmış puan tohumdan tohuma çok oynar (kursun kendi cevabı beş tohumda 0.76 ile 0.89 arası alıyor), bu yüzden çıta bunun epey altında. Yaklaşık 1e-2 öğrenme oranıyla Adam burada çalışır; 3e-3 ile bu küçük ağ ders için fazla yavaş öğrenir.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.