Enige kurwe lyn uit bome (universele benadering)
Waarom dit saak maak Mense sê 'n netwerk met een verborge laag kan enige kurwe pas. Hier sien jy waarom deur dit self uit bultjies te bou.
Sien dit
'n baie steil sigmoid is 'n stap: 0 aan die linkerkant, 1 aan die regterkant. Twee stappe, een op by left en een af by right, maak 'n bult: height * (sigmoid(s (x - left)) - sigmoid(s (x - right))). Dit is twee hidden neurons en een output weight. Sit bulte langs mekaar, elk so hoog soos die kurwe by sy plek, en jy teken enige kurwe, soos 'n staafdiagram. Meer neurons, dunner stawe, beter aanpassing.
Universele benadering: een verstekte laag met genoeg neuronne kan so naby as wat jy wil aan enige redelike kurwe kom. Dit sê niks oor hoe maklik dit is om daardie wegte deur opleiding te vind nie.
Opsomming Twee neuronne maak 'n bult; genoeg bulte maak enigiets.
Woorde en simbole in hierdie les
- neuron
- w . x + b, dan 'n aktivering
- gewigte (w, W), bias (b)
- die nommers wat 'n neuron leer; die bias skuif sy uitset
- sigmoid
- 1 / (1 + exp(-z)): druk enige getal in 0 tot 1
- verstekte laag
- a laag tussen input en output wat nuwe features bou
Skryf bump(x, left, right, height, s=60), dan approx(x, f, n_bumps) wat 0 tot pi in n_bumps gelyke dele verdeel en een bult per deel byvoeg, elk met die hoogte van f in die middel van sy deel. Met 10 bulte (20 neurone) moet die mean squared error teen sin op 0 tot pi onder 0.01 wees.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.