'n Syferleser in eenvoudige NumPy
Waarom dit saak maak Dit is 'n regte neurale netwerk wat regte handskrif lees, met elke reël wat deur jou geskryf is. Dit is die klassieke eerste netwerk, gebou sonder 'n library.
Die data is 1,797 handgeskrewe syfers, elk 'n 8 by 8 beeld wat platgemaak is in 64 nommers ('n klein, lae-resolusie neef van die bekende 28 by 28 MNIST-stel, uit 'n ander versameling). Die netwerk is die een van die vorige les: 64 inputs, 'n hidden layer van 64 ReLU neurons, en 10 outputs.
Die opleidingslus
- Begin met klein en willeke wegte:
rng.normal(0, 0.1, shape), biases by nul. - Elke epoch, skuif die trainingsdata en loop deur dit in minibatches van 32.
- Vir elke minibatch, hardloop
forward_backwarden skuif elke gewig teen sy gradiënt.
Minibatch: 'n klein willeke stukkie van die data wat vir een stap gebruik word. Dit is baie vinniger as om al die data elke stap te gebruik, en die geraas help selfs.
Voorspel die kurwe: raai die training loss na epoch 1 en na epoch 20 in my_guess.
Opsomming Shuffle, slice, forward, backward, step. Herhaal.
Woorde en simbole in hierdie les
- neuron
- w . x + b, dan 'n aktivering
- gewigte (w, W), bias (b)
- die nommers wat 'n neuron leer; die bias skuif sy uitset
- ReLU
- max(0, z): hou positiewes, maak negatiewes nul
- leerkoers (lr)
- hoe groot elke opleidingsstap is
- verstekte laag
- a laag tussen input en output wat nuwe features bou
Gebruik jou forward_backward om train(X, y, hidden, lr, epochs, seed) te skryf wat 'n dictionary van weights teruggee, en predict(params, X) wat die voorspelde syfer vir elke ry teruggee. Vul my_guess in. Die verborge toets meet akkuraatheid op 397 syfers wat jy nooit opgelei het nie: bereik ten minste 95%. (lr 0.5, 20 epochs, 64 hidden werk.)
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.