O que a rede observa, testado
Por que isso importa Mapas de calor de "o que a rede olhou" estão em todo lugar, e muitas vezes são enganosos. Aqui você faz um e depois testa se ele significa algo.
A saliency map é o gradiente da pontuação da classe vencedora em relação a cada pixel de entrada: o quanto o brilho daquele pixel mudaria a resposta. Seu motor calcula isso de graça: transforme a entrada em um Tensor e chame backward.
Teste, não confie
Se o mapa realmente marca os pixels que importam, então apagar os 20 pixels mais salientes deve prejudicar a confiança da rede mais do que apagar 20 pixels aleatórios. Isso é um deletion test. Um mapa que falha nisso é decoração.
Mas vencer pixels aleatórios é uma meta baixa. Nestas formas, os pixels brilhantes são a forma, então um mapa que simplesmente marca os pixels mais brilhantes, sem nenhuma rede envolvida, também vence o aleatório. A pergunta justa é se o mapa da rede vence essa baseline sem modelo. Se não vencer, ela não te disse nada que um olhar rápido para a imagem não diria.
Baseline: a coisa mais simples que poderia explicar um resultado. Um método ganha confiança apenas ao superar a melhor baseline barata, não a pior.
Palavras e símbolos nesta lição
- saliency map
- o gradiente da pontuação vencedora em relação a cada pixel de entrada
- RECORDED
- Uma execução real do curso foi treinada uma vez e enviada para você estudar
A CNN o curso treinou uma vez é carregado para você (uma rede gravada, 96% em novas formas). Escreva saliency(x) para uma imagem x de forma (16, 16, 1), retornando |gradiente da pontuação vencedora| por pixel como forma (16, 16). Para pegar o gradiente de uma pontuação, escolha sua coluna com E.cols(scores, k, k + 1), some com E.total, e chame backward nela. Depois deletion_drop(x, pixels), onde pixels é uma lista de pares (linha, coluna): a queda na probabilidade da classe vencedora quando esses pixels são definidos como 0. Finalmente meça, sobre as primeiras 100 imagens de teste, a queda média para os 20 pixels salientes do topo e para os 20 pixels mais brilhantes, e defina beats_brightness como True ou False a partir dos seus próprios números. O teste também verifica seu mapa contra 20 pixels aleatórios.
Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição
Este exercício abre em breve
Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.
Este navegador está bloqueando cookies para learn.floati.life, então as lições que você terminou aqui não podem abrir em ordem. Permita cookies para este site e recarregue.