Conteúdo do curso Lição 121 de 246 · Módulo 10: Redes que veem (CNNs)
Módulo 10: Redes que veem (CNNs)

O que a rede observa, testado

Por que isso importa Mapas de calor de "o que a rede olhou" estão em todo lugar, e muitas vezes são enganosos. Aqui você faz um e depois testa se ele significa algo.

A saliency map é o gradiente da pontuação da classe vencedora em relação a cada pixel de entrada: o quanto o brilho daquele pixel mudaria a resposta. Seu motor calcula isso de graça: transforme a entrada em um Tensor e chame backward.

Teste, não confie

Se o mapa realmente marca os pixels que importam, então apagar os 20 pixels mais salientes deve prejudicar a confiança da rede mais do que apagar 20 pixels aleatórios. Isso é um deletion test. Um mapa que falha nisso é decoração.

Mas vencer pixels aleatórios é uma meta baixa. Nestas formas, os pixels brilhantes são a forma, então um mapa que simplesmente marca os pixels mais brilhantes, sem nenhuma rede envolvida, também vence o aleatório. A pergunta justa é se o mapa da rede vence essa baseline sem modelo. Se não vencer, ela não te disse nada que um olhar rápido para a imagem não diria.

Baseline: a coisa mais simples que poderia explicar um resultado. Um método ganha confiança apenas ao superar a melhor baseline barata, não a pior.

Palavras e símbolos nesta lição
saliency map
o gradiente da pontuação vencedora em relação a cada pixel de entrada
RECORDED
Uma execução real do curso foi treinada uma vez e enviada para você estudar
Sua vez

A CNN o curso treinou uma vez é carregado para você (uma rede gravada, 96% em novas formas). Escreva saliency(x) para uma imagem x de forma (16, 16, 1), retornando |gradiente da pontuação vencedora| por pixel como forma (16, 16). Para pegar o gradiente de uma pontuação, escolha sua coluna com E.cols(scores, k, k + 1), some com E.total, e chame backward nela. Depois deletion_drop(x, pixels), onde pixels é uma lista de pares (linha, coluna): a queda na probabilidade da classe vencedora quando esses pixels são definidos como 0. Finalmente meça, sobre as primeiras 100 imagens de teste, a queda média para os 20 pixels salientes do topo e para os 20 pixels mais brilhantes, e defina beats_brightness como True ou False a partir dos seus próprios números. O teste também verifica seu mapa contra 20 pixels aleatórios.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.