Silabus Pelajaran 133 dari 246 · Modul 11: Jaringan dengan memori (RNNs)
Modul 11: Jaringan dengan memori (RNNs)

Gate: RNN rusak dengan dua kesalahan (AI off)

Kenapa ini penting Menemukan dua kesalahan sekaligus tanpa bantuan adalah apa yang dilatihkan oleh klinik kepadamu.

AI tutor off. Karakter RNN ini punya dua kesalahan. Satu membuat loss tidak bisa turun jauh, padahal setiap loss tetap angka yang terbatas (tidak ada yang meledak). Yang lainnya berarti jaringan tidak benar-benar menggunakan apa yang sudah dibaca sebelumnya di dalam snippet. Cari dan perbaiki keduanya.

Kata dan simbol di pelajaran ini
jaringan saraf berulang (RNN)
jaringan yang membaca satu langkah demi satu langkah dan membawa status tersembunyi ke depan
entropy
seberapa tersebar sebuah distribusi: 0 saat pasti, ln(n) saat semua n pilihan sama
Giliranku

Perbaiki init dan run_snippet. Setelah 200 langkah, rata-rata loss selama 20 langkah terakhir harus di bawah 2.45, setiap loss harus berupa angka hingga, dan karakter pertama dari sebuah snippet harus tetap memengaruhi prediksi terakhir.

AI mati: tidak ada tutor, petunjuk atau solusi lengkap untuk yang ini. Hanya pemikiranmu sendiri.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.