Ablasi: tiga perubahan, tiga seed masing-masing
Kenapa ini penting "Perubahan ini membantu" adalah klaim paling umum di laporan proyek apa pun, dan yang paling sering dibuat dari satu kali jalan. Aturan Modul 22 menentukannya di sini, pada jalankan kamu.
Pilih tiga perubahan pada baseline kamu, masing-masing mengubah tepat satu pengaturan (width, lr, steps, batch atau weight_decay). Jalankan masing-masing dengan seeds 0, 1 dan 2, dan baseline lagi dengan seeds yang sama (di log pelajaran ini, jadi setiap angka ada di satu tempat). Gunakan evals=1: hanya skor akhir yang dibutuhkan.
Untuk setiap perubahan: diff = rata-rata skor perubahan dikurangi rata-rata skor baseline (semakin tinggi semakin baik), dan se = judge.standard_error(baseline, change). Keputusan: "better" jika diff > 2 se, "worse" jika diff < -2 se, jika tidak "not shown".
Totalnya harus sesuai anggaranmu: perubahan yang lebih mahal (lebih lebar, lebih banyak langkah) akan menghabiskan lebih banyak.
Kata dan simbol di pelajaran ini
- baseline
- dasar jalannya setiap perubahan diukur terhadap, pada seed yang sama
- ablation
- one ubah ke baseline, jalankan di beberapa seed, untuk lihat apa yang terjadi
Atur CHANGES (tiga, masing-masing satu pengaturan). Isi log dengan 12 jalankan dan verdict[name] untuk setiap perubahan. Cetak rata-rata dan 2 se.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.