ネットワークが何を見ているか、試して
なぜ大切か 「ネットワークが何を見たか」のヒートマップはどこにでもあり、しばしば誤らせます。ここではひとつ作り、それから何かを意味するかを試します。
顕著性マップ は、それぞれの入力の画素についての勝ったクラスの点数の勾配です:その画素の明るさがどれだけ答えを変えるか。あなたのエンジンはそれをただで計算します:入力を Tensor にして backward を呼んでください。
信じずに試す
マップが本当に大切な画素を示すなら、最も顕著な 20 画素を消すことは、ランダムな 20 画素を消すよりもネットワークの自信を損なうはずです。それが 削除テスト です。それに落ちるマップは飾りです。
でもランダムな画素に勝つのは低い基準です。これらの図形では明るい画素が図形そのものなので、ネットワークをまったく使わずに最も明るい画素を示すだけのマップも、ランダムに勝ちます。公正な問いは、ネットワークのマップがそのモデルなしの基準に勝つかです。勝たなければ、それは絵をひと目見ればわかること以外に何も教えていません。
基準:結果を説明しうる最も単純なものです。手法が信頼を得るのは、最も悪い安い基準ではなく、最も良い安い基準に勝つことによってだけです。
このレッスンの言葉と記号
- 顕著性マップ
- それぞれの入力の画素についての勝った点数の勾配
- RECORDED(記録)
- コースが一度訓練し、学べるように同梱している本物の実行
コースが一度訓練した CNN が読み込まれています(記録したネットワーク、新しい図形で 96%)。形 (16, 16, 1) のひとつの画像 x について、画素ごとの |勝った点数の勾配| を形 (16, 16) で返す saliency(x) を書いてください。ひとつの点数の勾配を取るには、E.cols(scores, k, k + 1) でその列を選び、E.total で合計し、それに backward を呼びます。それから deletion_drop(x, pixels)、ここで pixels は (行, 列) の組のリストです:それらの画素を 0 にしたときの、勝ったクラスの確率の下がり方です。最後に、最初の 100 のテストの画像の上で、上位 20 の顕著な画素と、最も明るい 20 画素についての平均の下がり方を測り、自分の数から beats_brightness を True か False に設定してください。テストはあなたのマップをランダムな 20 画素とも照らし合わせます。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。