Silabus Pelajaran 60 dari 246 · Modul 4: Mesin autograd buatanmu sendiri
Modul 4: Mesin autograd buatanmu sendiri

Arahkan checker ke engine kamu

Kenapa ini penting Mesin dengan satu aturan yang salah akan berlatih, lambat dan buruk, dan kamu mungkin tidak akan pernah tahu. Mulai sekarang, setiap operasi baru diperiksa sebelum digunakan.

Pengecek Modul 3 kamu menyentuh array NumPy. Di sini, ubah data Tensor di tempatnya, bangun ulang kalkulasinya, dan bandingkan dengan apa yang ditinggalkan backward di .grad.

Resepnya: (1) buat output dan panggil backward() sekali untuk mendapatkan gradien engine. (2) Untuk setiap input dan setiap entri, geser data ke atas dan ke bawah, bangun ulang, dan baca nilai output. (3) Laporkan kesalahan relatif terbesar.

Ringkasan Jangan pernah percaya aturan mundur baru sampai sudah lolos pengecekan.

Kata dan simbol di pelajaran ini
Tensor
here: sebuah array ditambah gradiennya ditambah Tensor asalnya
.grad
gradien dari loss akhir terhadap Tensor ini
unbroadcast
meringradien balik ke bentuk asalnya
Giliranku

Tulis engine_check(build, inputs): build() mengembalikan scalar Tensor yang dihitung dari Tensor dalam daftar inputs. Kembalikan kesalahan relatif terbesar antara gradien engine dan yang sudah di-nudge. Atur ulang grad setiap input ke nol sebelum memanggil backward. Tes tersembunyi menanamkan tiga bug di engine, satu per satu; checker kamu harus melaporkan di atas 1e-3 untuk masing-masing bug, dan di bawah 1e-6 untuk engine yang benar.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.