Müfredat 246 dersinden 55. · Modül 4: Kendi autograd motorun
Modül 4: Kendi autograd motorun

Toplama ve çarpma için geri geçiş

Neden önemli Bu iki kural ve sıralamayla motorun toplamlardan ve çarpımlardan oluşan her formülün türevini zaten alabilir.

Her işlem yaptığı Tensor'a küçük bir fonksiyon, _backward, ekler. Çağrıldığında out.grad değerini okur ve kendi payını her ebeveynin grad değerine ekler:

  • out = a + b için: a out.grad alır, b out.grad alır.
  • out = a * b için: a out.grad * b.data alır, b out.grad * a.data alır.

Ebeveynin grad değerine her zaman ekle (+= tarzı), asla üzerine yazma: iki kez kullanılan bir düğüm iki katkıyı da toplamalı. Sonra backward() son düğümün grad değerini 1'e ayarlar ve her _backward fonksiyonunu ters topolojik sırayla çağırır.

(En üstte içe aktarılan hazır unbroadcast yardımcısı yayınlamayla esnetilmiş şekilleri idare eder. Kendi sürümünü iki ders sonra yazacaksın; şimdilik her katkıyı onunla sar.)

Bu dersteki kelimeler ve semboller
Tensor
burada: bir dizi artı gradyanı artı geldiği Tensor'lar
topolojik sıra
her düğüm, bağlı olduğu düğümlerden sonra listelenir
.grad
son kaybın bu Tensor'a göre gradyanı
unbroadcast
bir gradyanı esnetildiği şekle geri toplamak
Senin sıran

İki _backward fonksiyonunu ve backward metodunu doldur. Gizli test, iki kez kullanılan bir düğüm de dahil, + ve * karıştıran formüllerin gradyanlarını kontrol eder.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.