Waar het netwerk naar kijkt, getest
Waarom dit ertoe doet Heat maps van "waar het netwerk naar keek" zijn overal en vaak misleidend. Hier maak je er een en test je dan of het iets betekent.
A saliency map is de gradiënt van de score van de winnende klasse ten opzichte van elke input pixel: hoeveel de helderheid van die pixel het antwoord zou veranderen. Je engine berekent het gratis: maak de input een Tensor en roep backward aan.
Test het, vertrouw het niet
Als de kaart echt de pixels markeert die ertoe doen, dan moet het wegzetten van de 20 meest opvallende pixels de zekerheid van het netwerk meer schaden dan het wegzetten van 20 willekeurige pixels. Dat is een deletion test. Een kaart die dit niet haalt is decoratie.
Maar het verslaan van willekeurige pixels is een lage lat. Op deze vormen zijn de heldere pixels de vorm, dus een kaart die simpelweg de helderste pixels markeert, zonder enige betrokkenheid van een netwerk, verslaat ook willekeurig. De eerlijke vraag is of de kaart van het netwerk die no-model basislijn verslaat. Als dat niet zo is, heeft het je niets verteld wat een blik op de afbeelding niet al zou doen.
Baseline: het simpelste ding dat een resultaat zou kunnen verklaren. Een methode verdient alleen vertrouwen door de beste goedkope basislijn te verslaan, niet de slechtste.
Woorden en symbolen in deze les
- saliency map
- de gradiënt van de winnende score ten opzichte van elke inputpixel
- RECORDED
- Een echte run van de cursus is één keer getraind en verzonden zodat je het kunt bestuderen
A CNN de cursus getraind een keer is geladen voor je (een opgenomen netwerk, 96% op nieuwe vormen). Schrijf saliency(x) voor één afbeelding x van vorm (16, 16, 1), waarbij je de |gradient van de winnende score| per pixel teruggeeft als vorm (16, 16). Om de gradient van één score te nemen, kies je de kolom met E.cols(scores, k, k + 1), tel je het op met E.total, en roep je backward aan op die. Dan deletion_drop(x, pixels), waarbij pixels een lijst is van (rij, kolom) paren: de daling in de kans van de winnende klasse wanneer die pixels worden ingesteld op 0. Meet tenslotte, over de eerste 100 testafbeeldingen, de gemiddelde daling voor de top-20 opvallende pixels en voor de 20 helderste pixels, en zet beats_brightness op True of False op basis van je eigen getallen. De test controleert ook je kaart tegen 20 willekeurige pixels.
Een probleem ontdekt in deze les? Meld het · Vraag naar deze les
Deze oefening opent binnenkort
Maak de les ervoor af voordat deze wordt ontgrendeld. De hele cursus is gratis, geen account nodig, en je kunt deze les nu lezen.
Deze browser blokkeert cookies voor learn.floati.life, dus lessen die je hier hebt afgerond kunnen niet in de juiste volgorde worden geopend. Sta cookies toe voor deze site en laad de pagina opnieuw.