Silabus Pelajaran 58 dari 246 · Modul 4: Mesin autograd buatanmu sendiri
Modul 4: Mesin autograd buatanmu sendiri

Jumlah, rata-rata, perubahan bentuk, dan transpose

Kenapa ini penting Loss adalah jumlah atau rata-rata, dan layer mengubah bentuk serta melakukan transpose terus menerus. Setiap bagian butuh aturan backward, dan setiap aturan hanya satu baris.

  • sum (ke satu angka): setiap entri berkontribusi dengan kemiringan 1, jadi masing-masing mendapat gradien yang datang. Gradien: angka satu dengan bentuk input, dikali out.grad.
  • mean: jumlah dikali 1/size. Bangun dari sum dan multiply, jadi tidak butuh aturan sendiri.
  • reshape: nilai hanya disusun ulang, jadi ubah bentuk gradient kembali ke bentuk input.
  • transpose: transpose kembali gradiennya.

Ringkasan Memindahkan angka akan mengembalikan gradien dengan cara yang sama.

Kata dan simbol di pelajaran ini
Tensor
here: sebuah array ditambah gradiennya ditambah Tensor asalnya
.grad
gradien dari loss akhir terhadap Tensor ini
unbroadcast
meringradien balik ke bentuk asalnya sebelum ditarik
Giliranku

Tulis sum, mean, reshape dan properti T dengan aturan kebalikannya.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.