Kurrikulum Leson 49 van 246 · Module 3: Neuron na MLP
Module 3: Neuron na MLP

'n Syferleser in eenvoudige NumPy

Waarom dit saak maak Dit is 'n regte neurale netwerk wat regte handskrif lees, met elke reël wat deur jou geskryf is. Dit is die klassieke eerste netwerk, gebou sonder 'n library.

Die data is 1,797 handgeskrewe syfers, elk 'n 8 by 8 beeld wat platgemaak is in 64 nommers ('n klein, lae-resolusie neef van die bekende 28 by 28 MNIST-stel, uit 'n ander versameling). Die netwerk is die een van die vorige les: 64 inputs, 'n hidden layer van 64 ReLU neurons, en 10 outputs.

Die opleidingslus

  1. Begin met klein en willeke wegte: rng.normal(0, 0.1, shape), biases by nul.
  2. Elke epoch, skuif die trainingsdata en loop deur dit in minibatches van 32.
  3. Vir elke minibatch, hardloop forward_backward en skuif elke gewig teen sy gradiënt.

Minibatch: 'n klein willeke stukkie van die data wat vir een stap gebruik word. Dit is baie vinniger as om al die data elke stap te gebruik, en die geraas help selfs.

Voorspel die kurwe: raai die training loss na epoch 1 en na epoch 20 in my_guess.

Opsomming Shuffle, slice, forward, backward, step. Herhaal.

Woorde en simbole in hierdie les
neuron
w . x + b, dan 'n aktivering
gewigte (w, W), bias (b)
die nommers wat 'n neuron leer; die bias skuif sy uitset
ReLU
max(0, z): hou positiewes, maak negatiewes nul
leerkoers (lr)
hoe groot elke opleidingsstap is
verstekte laag
a laag tussen input en output wat nuwe features bou
Jou beurt

Gebruik jou forward_backward om train(X, y, hidden, lr, epochs, seed) te skryf wat 'n dictionary van weights teruggee, en predict(params, X) wat die voorspelde syfer vir elke ry teruggee. Vul my_guess in. Die verborge toets meet akkuraatheid op 397 syfers wat jy nooit opgelei het nie: bereik ten minste 95%. (lr 0.5, 20 epochs, 64 hidden werk.)

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.