Silabus Pelajaran 165 dari 246 · Modul 14: Jalankan Klinik II
Modul 14: Jalankan Klinik II

Gerbang: tiga jalankan rusak yang tidak terlihat (AI mati)

Kenapa ini penting Mendiagnosis sendirian, dengan anggaran, adalah keahlian yang dibangun kursus ini sejak Module 8.

AI tutor mati. Tiga kali jalan, masing-masing dengan satu kesalahan dari kasus pelatihan modul ini. Ini adalah jalan baru, bukan kasus latihan: seed lain, dan kesalahan ukuran lain, jadi angka yang diingat tidak akan cocok. Anggaranmu adalah 9 probe total (melatih kasus tertutup dihitung satu), dihitung di setiap jalan sejak halaman dibuka (mengulang probe pada kasus yang sama gratis; diagnosis salah atau perbaikan yang tidak berhasil memakan satu probe).

Setiap kasus di bawah adalah jalankan pelatihan dengan satu kesalahan yang sengaja dimasukkan. Untuk setiap kasus: gunakan probe untuk menemukan kesalahan, lalu tulis perbaikan sebagai perubahan config yang mengembalikan jalankan ke kondisi sehat. Kesalahan di pelajaran ini: any training fault from this module. Diagnostik yang baik jarang butuh lebih dari dua probe per kasus.

ProbeApa yang diberitahukannya padamuJalankan dengan sehat
loss_curve(c)Loss pelatihan setiap 25 langkah, dan loss pada teks yang belum pernah dilihat di akhir. Selalu lihat pertama kali.4.55 turun ke sekitar 2.9; tidak terlihat sekitar 3.0
loss_at_init(c)Loss sebelum pelatihan. Model baru yang menebak secara merata di atas 95 karakter memberikan ln(95).4.55
leak_check(c)Bisakah karakter yang muncul belakangan mengubah prediksi sebelumnya?Salah
show_batch(c)Input pelatihan satu dan targetnya, sebagai teks.target = input dipindah satu karakter ke kiri
update_ratio(c)Setelah langkah Adam pertama, seberapa jauh bobot bergerak relatif terhadap ukurannya. Bukan aturan Modul 8: rentang 0.001 sampai 0.1 itu untuk langkah SGD biasa. Langkah pertama Adam menggerakkan setiap bobot sekitar besaran learning rate apa pun gradiennya, dan bobot ini mulai di dekat 0.02, jadi 0.01 / 0.02 menghasilkan sekitar 0.5. Bandingkan kasus dengan jalannya yang sehat ini, bukan dengan rentang Modul 8.sekitar 0.5
block_change(c)Seberapa banyak blok pertama mengubah setiap vektor di awal.sekitar 0.3
Kata dan simbol di pelajaran ini
ln(V)
kerugian awal dari model yang menebak secara merata di atas V simbol: 4.55 untuk 95 karakter
ubah blok
seberapa banyak satu blok mengubah vektor di awal; mendekati 1 berarti itu menggantinya
Giliranku

Isi diagnosis (case ke nama fault) dan fixes (case ke dictionary perubahan config) untuk kasus A, B, dan C. Setelah perbaikanmu, setiap setting harus sama dengan jalannya yang sehat.

AI mati: tidak ada tutor, petunjuk atau solusi lengkap untuk yang ini. Hanya pemikiranmu sendiri.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.