Konwolusie agterwaarts
Hoekom dit saak maak Om sy filters te leer, het 'n CNN die gradiënt van die verlies met betrekking tot elke filter gewig nodig. Dit blyk om 'n ander konwolusie te wees.
Klein getalle, in 1D eerste
Voer x = [1, 2, 3, 4] in, filter w = [10, 20], geldige uitset y = [1*10 + 2*20, 2*10 + 3*20, 3*10 + 4*20] = [50, 80, 110]. Gewig w[0] het x[0], x[1], x[2] geraak (een keer per uitset), so sy gradiënt is g[0]*x[0] + g[1]*x[1] + g[2]*x[2]: die inset het teen die aankomende gradiënt g gegly. Inset x[1] is deur y[0] (met w[1]) en y[1] (met w[0]) gebruik, so sy gradiënt versamel g[0]*w[1] + g[1]*w[0].
Die reëls
- Filter gradiënt: skuif die invoer teen die aankomende gradiënt (n geldige korrelasie van x met g).
- Input gradiënt: pad g en skuif die filter, omgekeerd, oor dit ('n volledige konvolusie).
Dieselfde idee in 2D. Conv2d ontsluit in die house-biblioteek na hierdie les.
Woorde en simbole in hierdie les
- convolution
- skuif 'n klein rooster van gewigte ( 'n filter) oor 'n beeld, een dot product per posisie
- filter, kenmerkkaart
- die klein geleerde rooster van gewigte; en die beeld van sy reaksies
Skryf conv1d(x, w) (valid) en conv1d_backward(x, w, g) wat (dx, dw) teruggee. Dan conv2d_backward(img, k, g) wat (dimg, dk) teruggee vir die 2D geldige konwolusie. Die verborge toets kontroleer elke gradiënt teen 'n stoot.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.