Kurrikulum Leson 121 van 246 · Module 10: Netwerke wat sien (CNNs)
Module 10: Netwerke wat sien (CNNs)

Waar die netwerk na kyk, getoets

Waarom dit saak maak Hittekaarte van "waar die netwerk na gekyk het" is oral, en dikwels misleidend. Hier maak jy een en toets dan of dit iets beteken.

A saliency map is die gradiënt van die wen-klas se score met betrekking tot elke ingevoer-pixel: hoeveel daardie pixel se helderheid die antwoord sou verander. Jou engine bereken dit gratis: maak die ingevoer 'n Tensor en roep backward.

Toets dit, moenie dit vertrou nie

As die kaart werklik die pixels wat saak maak merk, moet die uitvee van die 20 meesaliente pixels die netwerk se vertroue meer skade aanrig as om 20 willeke pixels uit te vee. Dit is 'n deletion test. 'n Kaart wat daaraan faal is dekorasie.

Maar om willeke pixels te wen is 'n lae standaard. Op hierdie vorms is die helde pixels die vorm, so 'n kaart wat bloot die heldste pixels merk, sonder enige netwerk betrokke, wen ook teen willeke. Die regverdige vraag is of die netwerk se kaart daardie basiese model sonder model wen. As dit nie doen nie, het dit jou niks vertel wat 'n kyk na die prent nie sou vertel.

Baseline: die eenvoudigste ding wat 'n resultaat kan verduidelik. 'n Metode verdien vertroue deur die beste goedkoopste baseline te wen, nie die slegste een nie.

Woorde en simbole in hierdie les
saliency map
die gradiënt van die wenpunt met betrekking tot elke ingangspiksel
OPGENAAM
'n regte hardloop van die kursus is een keer opgelei en gestuur vir jou om te bestudeer
Jou beurt

A CNN die kursus wat jy een keer opgelei het is gelaai vir jou ( 'n opgeneemde netwerk, 96% op nuwe vorms). Skryf saliency(x) vir een beeld x van vorm (16, 16, 1), wat die |gradient van die wen-telling| per pixel as vorm (16, 16) teruggee. Om die gradient van een telling te neem, kies sy kolom met E.cols(scores, k, k + 1), tel dit by E.total by, en roep backward op daardie. Dan deletion_drop(x, pixels), waar pixels 'n lys van (row, column) pare is: die daling in die wen-klas se waarskynlikheid wanneer daardie pixels na 0 gestel word. Meet uiteindelik, oor die eerste 100 toetsbeelde, die gemiddelde daling vir die top-20 opvallende pixels en vir die 20 heldste pixels, en stel beats_brightness op True of False vanaf jou eie syfers. Die toets kontroleer ook jou kaart teen 20 willeke pixels.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.