Programma Lezione 63 di 246 · Modulo 4: Il tuo motore di autograd
Modulo 4: Il tuo motore di autograd

Cancello: aggiungi una nuova operazione (IA spenta)

Perché è importante Aggiungere un'operazione, con la sua regola all'indietro, e controllarla, è esattamente ciò che farai per ogni nuovo layer nella Tappa 3. Qui lo fai da solo. Conosci già questo modulo? Puoi affrontare questo cancello per primo, prima delle altre lezioni: superarlo segna questo modulo come fatto e apre il successivo.

Tutor IA spento. Aggiungi tanh, exp e log al tuo motore, ognuna con la sua regola all'indietro. Ricava tu la pendenza locale di ciascuna (le pendenze del Modulo 2, e verificale ognuna con gli spostamenti prima di fidarti).

Parole e simboli di questa lezione
Tensor
qui: un array più il suo gradiente più i Tensor da cui viene
.grad
il gradiente della loss finale rispetto a questo Tensor
unbroadcast
sommare un gradiente fino a riportarlo alla forma da cui era stato allungato
zero_grad
azzerare i gradienti prima del passo successivo, perché backward ci somma sopra
Tocca a te

Scrivi i tre metodi su Tensor. Il test nascosto fa il controllo del gradiente su una formula che le usa tutte e tre su input nuovi.

IA spenta: niente tutor, suggerimenti o soluzione svolta per questo. Solo il tuo ragionamento.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Codice · gira nel tuo browser
Uscita

        

I tuoi progressi vengono contati in forma anonima. Cambia