Müfredat 246 dersinden 54. · Modül 4: Kendi autograd motorun
Modül 4: Kendi autograd motorun

Grafiği kaydetmek ve sıralamak

Neden önemli Geri geçiş her kutuyu, ona bağlı olan her kutudan sonra ziyaret etmelidir. Bu sırayı yanlış yapmak sessizce yanlış gradyanlar verir.

Gör

İki kez kullanılan bir x düşün: a = x * 2, b = x * 3, L = a + b. Bu bir elmastır. L'den geri giderken x ile ilgilenmeden önce hem a'yı hem b'yi bitirmeliyiz, çünkü x'in gradyanı ikisinden geri gelenlerin toplamıdır.

Çözüm, düğümleri topolojik sırayla listelemektir: her düğüm bütün ebeveynlerinden sonra. Geri geçiş sonra o listeyi ters yönde dolaşır. Bir derinlik öncelikli arama listeyi yapar: önce bir düğümün ebeveynlerini ziyaret et, sonra düğümü ekle, ve zaten görülmüş düğümleri atla.

Topolojik sıra: bir grafiğin, her düğümün bağlı olduğu düğümlerden sonra geldiği bir sıralaması.

Bu dersteki kelimeler ve semboller
Tensor
burada: bir dizi artı gradyanı artı geldiği Tensor'lar
topolojik sıra
her düğüm, bağlı olduğu düğümlerden sonra listelenir
.grad
son kaybın bu Tensor'a göre gradyanı
unbroadcast
bir gradyanı esnetildiği şekle geri toplamak
Senin sıran

topo metodunu yaz: self düğümünün bağlı olduğu her düğümü (kendisi dahil), her biri bütün ebeveynlerinden sonra gelecek şekilde, tekrarsız döndür.

Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor

Bu alıştırma yakında açılacak

Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.