Lehrplan Lektion 52 von 246 · Modul 4: Deine eigene autograd engine
Modul 4: Deine eigene autograd engine

Zahlen vorwärts, Gradienten rückwärts

Warum das wichtig istBevor du die Engine baust, sieh dir genau an, was sie tun muss, auf fünf Zahlen.

Spiele die Animation ab und gehe sie langsam Schritt für Schritt durch. Beachte zwei Dinge. Vorwärts betrachtet braucht jede Box nur ihre Inputs. Rückwärts betrachtet braucht jede Box nur den Gradienten, der von der Box danach kommt, und ihre eigene lokale Steigung. Diese Lokalität macht eine Engine erst möglich: Jede Operation muss nur ihre eigene kleine Regel kennen.

Zusammenfassung Gradient an einer Box = gradient, der von danach kommt, mal die lokale Steigung der Box. Wo eine Box zwei andere speist, addiere das, was von beiden zurückkommt.

Du bist dran

Neue Zahlen, gleiche Formel L = (a * b + c) ** 2, mit a = 1, b = 4, c = -2. Berechne es von Hand (kein Code nötig außer den Zahlen) und setze grad_a, grad_b und grad_c.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.