Kurrikulum Leson 58 van 246 · Module 4: Jou eie autograd-enjin
Module 4: Jou eie autograd-enjin

Somme, gemiddeltes, hervormings en transposisies

Waarom dit saak maak 'n verlies is 'n som of 'n gemiddelde, en lae verander vorm en skuif voortdurend. Elkeen het 'n agterwaartse reël nodig, en elke reël is 'n een-reël-kode.

  • sum (na een getal): elke inskrywing dra by met helling 1, so elk kry die aankomende gradiënt. Gradiënt: ense van die input se vorm, maal out.grad.
  • beteken: 'n som maal 1/size. Bou dit uit sum en multiply, so dit het geen eie reël nodig nie.
  • reshape: waardes word net herrangskik, so herrangskik die gradient terug na die input se vorm.
  • transpose: draai die gradiënt terug.

Opsomming Om nommers te skuif skuif die gradiënt terug op dieselfde manier.

Woorde en simbole in hierdie les
Tensor
hier: 'n array plus sy gradiënt plus die Tensors waaruit dit gekom het
.grad
die gradiënt van die finale loss met verwysing na hierdie Tensor
unbroadcast
som die gradiënt terug na die vorm waaruit dit gestrek is
Jou beurt

Skryf sum, mean, reshape en die T eienskap met hulle terugwaartse reëls.

Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les

Hierdie oefening open binnekort

Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.