Silabus Pelajaran 238 dari 246 · Modul 23: Capstone studio: kartu model yang bisa kamu jalankan
Modul 23: Capstone studio: kartu model yang bisa kamu jalankan

Ablasi: tiga perubahan, tiga seed masing-masing

Kenapa ini penting "Perubahan ini membantu" adalah klaim paling umum di laporan proyek apa pun, dan yang paling sering dibuat dari satu kali jalan. Aturan Modul 22 menentukannya di sini, pada jalankan kamu.

Pilih tiga perubahan pada baseline kamu, masing-masing mengubah tepat satu pengaturan (width, lr, steps, batch atau weight_decay). Jalankan masing-masing dengan seeds 0, 1 dan 2, dan baseline lagi dengan seeds yang sama (di log pelajaran ini, jadi setiap angka ada di satu tempat). Gunakan evals=1: hanya skor akhir yang dibutuhkan.

Untuk setiap perubahan: diff = rata-rata skor perubahan dikurangi rata-rata skor baseline (semakin tinggi semakin baik), dan se = judge.standard_error(baseline, change). Keputusan: "better" jika diff > 2 se, "worse" jika diff < -2 se, jika tidak "not shown".

Totalnya harus sesuai anggaranmu: perubahan yang lebih mahal (lebih lebar, lebih banyak langkah) akan menghabiskan lebih banyak.

Kata dan simbol di pelajaran ini
baseline
dasar jalannya setiap perubahan diukur terhadap, pada seed yang sama
ablation
one ubah ke baseline, jalankan di beberapa seed, untuk lihat apa yang terjadi
Giliranku

Atur CHANGES (tiga, masing-masing satu pengaturan). Isi log dengan 12 jalankan dan verdict[name] untuk setiap perubahan. Cetak rata-rata dan 2 se.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.