Müfredat 246 dersinden 40. · Modül 3: Nörondan MLP'ye
Modül 3: Nörondan MLP'ye

Yokuş aşağı yürümek (elle gradyan inişi)

Neden önemli Ağırlıkları elle seçmek bir milyon ağırlığa ölçeklenmez. Gradyan her ağırlığa aynı anda yokuş aşağının hangi yönde olduğunu söyler.

Adını koy

L = mean((X @ w + b - y) kare) kaybı için w1'i it, L 2 * mean(error * x1) kadar değişir, burada error tahmin eksi gerçektir. Bu, L'nin w1'e göre türevidir. Hepsi birden: grad_w = 2 * X.T @ error / n, ve grad_b = 2 * mean(error).

Düz sözlerle oku

Büyüklüğü fazla olan evlerde tahminler çok yüksekse (error pozitif), w1'i düşürmek işe yarar, ve w1'in gradyanı pozitiftir, bu yüzden onu çıkarırız. Her adım: w = w - lr * grad_w, burada öğrenme oranı lr adım boyunu belirler.

Gradyan inişi: "gradyanı hesapla, ona karşı küçük bir adım at" işlemini tekrarlamak. Öğrenme oranı: her adımın boyu.

Eğriyi Tahmin Et

Eğitimini çalıştırmadan önce 0, 10, 50 ve 200. adımlardaki kaybı my_guess içinde tahmin et. Kod tahminini gerçeğin yanında yazdırır.

Özet Gradyan, ona karşı adım, tekrar.

Bu dersteki kelimeler ve semboller
ağırlıklar (w, W), sapma (b)
bir nöronun öğrendiği sayılar; sapma çıktısını kaydırır
öğrenme oranı (lr)
her eğitim adımının ne kadar büyük olduğu
Senin sıran

(grad_w, grad_b) döndüren gradients(X, y, w, b) yaz, ve sıfırlardan başlayıp (w, b, losses) döndüren train(X, y, lr, steps) yaz; burada losses her adımdan önceki kaybı tutar. Önce my_guess doldur. Eğitilmiş kayıp, lr 0.5 ve başlangıç kodunun istediği 201 adımla 0.01'in altında bitmeli.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.