Ansehen: Backprop & die Kettenregel
Gradient descent braucht eine Sache: den Gradienten des loss in Bezug auf jeden input und jedes weight. Backpropagation ist der Weg, wie du ihn erhältst, und es ist einfach die chain rule angewendet auf einen graph von operationen.
Drücke Play. Schiebe einen Wert durch einen winzigen Graphen (x -> double -> square -> L) vorwärts, dann beobachte den Gradientenfluss rückwärts, wobei du mit dem lokalen Gradienten jedes Schritts multiplizierst. Sobald du es siehst, ist die autograd Engine, die du als Nächstes baust, kein Zauber mehr.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.