Programma Les 121 van 246 · Module 10: Netwerken die zien (CNNs)
Module 10: Netwerken die zien (CNNs)

Waar het netwerk naar kijkt, getest

Waarom dit ertoe doet Heat maps van "waar het netwerk naar keek" zijn overal en vaak misleidend. Hier maak je er een en test je dan of het iets betekent.

A saliency map is de gradiënt van de score van de winnende klasse ten opzichte van elke input pixel: hoeveel de helderheid van die pixel het antwoord zou veranderen. Je engine berekent het gratis: maak de input een Tensor en roep backward aan.

Test het, vertrouw het niet

Als de kaart echt de pixels markeert die ertoe doen, dan moet het wegzetten van de 20 meest opvallende pixels de zekerheid van het netwerk meer schaden dan het wegzetten van 20 willekeurige pixels. Dat is een deletion test. Een kaart die dit niet haalt is decoratie.

Maar het verslaan van willekeurige pixels is een lage lat. Op deze vormen zijn de heldere pixels de vorm, dus een kaart die simpelweg de helderste pixels markeert, zonder enige betrokkenheid van een netwerk, verslaat ook willekeurig. De eerlijke vraag is of de kaart van het netwerk die no-model basislijn verslaat. Als dat niet zo is, heeft het je niets verteld wat een blik op de afbeelding niet al zou doen.

Baseline: het simpelste ding dat een resultaat zou kunnen verklaren. Een methode verdient alleen vertrouwen door de beste goedkope basislijn te verslaan, niet de slechtste.

Woorden en symbolen in deze les
saliency map
de gradiënt van de winnende score ten opzichte van elke inputpixel
RECORDED
Een echte run van de cursus is één keer getraind en verzonden zodat je het kunt bestuderen
Jij bent aan de beurt

A CNN de cursus getraind een keer is geladen voor je (een opgenomen netwerk, 96% op nieuwe vormen). Schrijf saliency(x) voor één afbeelding x van vorm (16, 16, 1), waarbij je de |gradient van de winnende score| per pixel teruggeeft als vorm (16, 16). Om de gradient van één score te nemen, kies je de kolom met E.cols(scores, k, k + 1), tel je het op met E.total, en roep je backward aan op die. Dan deletion_drop(x, pixels), waarbij pixels een lijst is van (rij, kolom) paren: de daling in de kans van de winnende klasse wanneer die pixels worden ingesteld op 0. Meet tenslotte, over de eerste 100 testafbeeldingen, de gemiddelde daling voor de top-20 opvallende pixels en voor de 20 helderste pixels, en zet beats_brightness op True of False op basis van je eigen getallen. De test controleert ook je kaart tegen 20 willekeurige pixels.

Een probleem ontdekt in deze les? Meld het · Vraag naar deze les

Deze oefening opent binnenkort

Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.