Apa yang dilihat oleh jaringan, sudah diuji
Kenapa ini penting Heat map dari "apa yang dilihat jaringan" ada di mana-mana, dan sering menyesatkan. Di sini kamu membuat satu dan kemudian menguji apakah itu ada artinya.
A saliency map adalah gradien skor kelas pemenang terhadap setiap piksel input: seberapa besar kecerahan piksel tersebut akan mengubah jawaban. Engine kamu menghitungnya secara gratis: buat input menjadi Tensor dan panggil backward.
Tesalah, jangan percaya
Kalau peta benar-benar menandai piksel yang penting, maka menghapus 20 piksel paling menonjol seharusnya lebih menurunkan kepercayaan jaringan daripada menghapus 20 piksel acak. Itu adalah deletion test. Peta yang gagal melakukannya hanyalah hiasan.
Tapi mengalahkan piksel acak itu standar yang rendah. Pada bentuk ini, piksel terang adalah bentuknya, jadi peta yang hanya menandai piksel paling terang, tanpa melibatkan jaringan sama sekali, juga mengalahkan acak. Pertanyaan yang adil adalah apakah peta jaringan mengalahkan baseline tanpa model tersebut. Jika tidak, ia tidak memberitahumu apa pun yang tidak bisa kamu lihat hanya dengan melirik gambarnya.
Baseline: hal paling sederhana yang bisa menjelaskan sebuah hasil. Sebuah metode hanya mendapat kepercayaan jika bisa mengalahkan baseline murah terbaik, bukan yang terburuk.
Kata dan simbol di pelajaran ini
- saliency map
- gradien skor kemenangan terhadap setiap piksel input
- TEREKAM
- kursus ini benar-benar dijalankan sekali dan dikirim untuk kamu pelajari
A CNN kursus yang dilatih sudah dimuat untukmu (jaringan rekaman, 96% pada bentuk baru). Tulis saliency(x) untuk satu gambar x dengan bentuk (16, 16, 1), mengembalikan |gradient dari skor pemenang| per piksel sebagai bentuk (16, 16). Untuk mengambil gradient dari satu skor, pilih kolomnya dengan E.cols(scores, k, k + 1), tambahkan dengan E.total, dan panggil backward pada itu. Lalu deletion_drop(x, pixels), di mana pixels adalah daftar pasangan (baris, kolom): penurunan probabilitas kelas pemenang saat piksel tersebut diatur ke 0. Terakhir ukur, pada 100 gambar tes pertama, rata-rata penurunan untuk 20 piksel paling menonjol dan untuk 20 piksel paling terang, dan atur beats_brightness ke True atau False dari angka milikmu sendiri. Tes ini juga memeriksa peta kamu terhadap 20 piksel acak.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.