Kurrikulum Leson 51 van 246 · Module 4: Jou eie autograd-enjin
Module 4: Jou eie autograd-enjin

Haak: tien reëls wat 'n syferleser oplei

Waarom dit saak maak In Module 3 het jy elke gradiënt by hand geskryf. Regte netwerke het tientalle lae-tipes; niemand lei daardie lae elke keer by hand af nie. 'n Autograd-enjin doen dit vir jou, en teen die einde van hierdie module sal jy een geskryf het.

Die eerste reëls importeer die voltooide engine wat jy aanbieder gaan bou (dit word weggesteek, sodat die komende lesse joune bly om op te los). Kyk na die tien reëls na die data: hulle bou 'n netwerk, en train dit op syfers, en nêrens noem hulle 'n gradient formule nie. loss.backward() bereken hulle almal uit.

Voorspel die kurwe eerste: raai die gemiddelde training loss na epoch 1 en na epoch 10.

Autograd: outomatiese differensiasie. Jy skryf net die vorentoe berekening; die enjin teken dit op en bereken elke gradiënt deur die kettingreël agtertoe te hardloop.

Woorde en simbole in hierdie les
autograd
outomatiese gradiënte: jy skryf die forward pass, die engine doen die backward
Tensor
hier: 'n array plus sy gradiënt plus die Tensors waaruit dit gekom het
zero_grad
stel gradiënte terug voordat die volgende stap kom, omdat backward dit byvoeg
Jou beurt

Vul my_guess in, en hardloop dit dan. Lees die tien opleidingsreëls en merk op wat kort.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.