Eğitim/değerlendirme tuzağı
Neden önemli Testte iyi, kullanımda görünür bir neden olmadan kötü puan alan bir model çok sık bu hatadır. Deneyimli mühendisleri bile kandırmıştır.
Küçük bir sınıflandırıcının bir BatchNorm katmanı var. Düzgün eğitildi ve hareketli ortalamaları iyi. Test kümesinde, büyük batch'lerle puanlandığında iyi iş çıkarıyor. Tek tek örnekler üzerinde kullanıldığında ise çok sık yanılıyor.
Önce dedektiflik: BatchNorm katmanının iki farklı örnek için ne çıkardığını yazdır, ve kendine hangi istatistiklerle normalleştirdiğini sor. Bunu yazdırdığından çıkar; takılırsan üç ipucu seni oraya götürür.
Bu dersteki kelimeler ve semboller
- Xavier, LeCun, He
- başlangıç yayılımları: tanh için sqrt(2 / (girdiler + çıktılar)) ya da 1 / sqrt(girdiler), ReLU için sqrt(2 / girdiler)
- BatchNorm (gamma, beta)
- her özelliği batch üzerinde normalleştir, sonra öğrenilmiş gamma ve beta ile yeniden ölçekle
predict_one(x) tek tek örnekler üzerinde kullanılıyor, ve doğruluğu zayıf. Nedenini bul, sonra ayrılmış veri doğruluğu en az %90 olacak şekilde predict_one'ı düzelt. cause değerini nedeni adlandıran kısa bir ifadeye ayarla.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.