Bagian mana yang penting
Kenapa ini penting Sebelum menjelaskan sebuah bagian, cari tahu apakah bagian itu melakukan sesuatu. Menghapus bagian (ablation) adalah efek termurah yang bisa kamu ukur, dan itu mengubah fokus pengamatanmu.
Setiap blok GPT punya bagian attention (tulis 'attn_out0', 'attn_out1') dan MLP (tulis 'mlp_out0', 'mlp_out1'). Hapus satu per satu (atur outputnya ke nol) dan ukur kenaikan held-out loss. Lalu hapus masing-masing dari empat head blok 1 satu per satu dengan interp.head_effects(model, X, Y, 1).
Risiko satu: jika dua head melakukan pekerjaan yang sama, menghapus salah satunya saja hampir tidak menunjukkan apa-apa. Jadi bandingkan juga empat kenaikan head tunggal, jika dijumlahkan, dengan menghapus semua perhatian block 1 sekaligus. Jika menghapus mereka bersamaan jauh lebih merusak daripada jumlahnya, mereka saling mendukung.
Kata dan simbol di pelajaran ini
- pola, efek, mekanisme
- tiga jenis bukti: melihat dan mengamati; mengubahnya dan output berubah; menjelaskannya dan penjelasan tersebut memprediksi kasus baru
- ablation
- menghapus bagian (mengatur outputnya ke nol) dan mengukur apa yang berubah
Isi rise untuk empat bagian, heads1 dengan empat kenaikan head tunggal, lalu atur backup ke True jika menghapus semua perhatian blok 1 lebih mahal dari dua kali jumlah headnya saja, dan biggest ke bagian yang penghapusannya paling mahal.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.