Waar die netwerk na kyk, getoets
Waarom dit saak maak Hittekaarte van "waar die netwerk na gekyk het" is oral, en dikwels misleidend. Hier maak jy een en toets dan of dit iets beteken.
A saliency map is die gradiënt van die wen-klas se score met betrekking tot elke ingevoer-pixel: hoeveel daardie pixel se helderheid die antwoord sou verander. Jou engine bereken dit gratis: maak die ingevoer 'n Tensor en roep backward.
Toets dit, moenie dit vertrou nie
As die kaart werklik die pixels wat saak maak merk, moet die uitvee van die 20 meesaliente pixels die netwerk se vertroue meer skade aanrig as om 20 willeke pixels uit te vee. Dit is 'n deletion test. 'n Kaart wat daaraan faal is dekorasie.
Maar om willeke pixels te wen is 'n lae standaard. Op hierdie vorms is die helde pixels die vorm, so 'n kaart wat bloot die heldste pixels merk, sonder enige netwerk betrokke, wen ook teen willeke. Die regverdige vraag is of die netwerk se kaart daardie basiese model sonder model wen. As dit nie doen nie, het dit jou niks vertel wat 'n kyk na die prent nie sou vertel.
Baseline: die eenvoudigste ding wat 'n resultaat kan verduidelik. 'n Metode verdien vertroue deur die beste goedkoopste baseline te wen, nie die slegste een nie.
Woorde en simbole in hierdie les
- saliency map
- die gradiënt van die wenpunt met betrekking tot elke ingangspiksel
- OPGENAAM
- 'n regte hardloop van die kursus is een keer opgelei en gestuur vir jou om te bestudeer
A CNN die kursus wat jy een keer opgelei het is gelaai vir jou ( 'n opgeneemde netwerk, 96% op nuwe vorms). Skryf saliency(x) vir een beeld x van vorm (16, 16, 1), wat die |gradient van die wen-telling| per pixel as vorm (16, 16) teruggee. Om die gradient van een telling te neem, kies sy kolom met E.cols(scores, k, k + 1), tel dit by E.total by, en roep backward op daardie. Dan deletion_drop(x, pixels), waar pixels 'n lys van (row, column) pare is: die daling in die wen-klas se waarskynlikheid wanneer daardie pixels na 0 gestel word. Meet uiteindelik, oor die eerste 100 toetsbeelde, die gemiddelde daling vir die top-20 opvallende pixels en vir die 20 heldste pixels, en stel beats_brightness op True of False vanaf jou eie syfers. Die toets kontroleer ook jou kaart teen 20 willeke pixels.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.