Lehrplan Lektion 27 von 246 · Modul 2: Mathematik und Wahrscheinlichkeit, nur wenn nötig
Modul 2: Mathematik und Wahrscheinlichkeit, nur wenn nötig

Einen Impuls weitergeben (die Kettenregel)

Warum das wichtig ist Ein Netzwerk ist Funktionen innerhalb von Funktionen. Die Kettenregel sagt, wie ein kleiner Impuls am Anfang bis zum Ende gelangt. Backpropagation ist nichts anderes als das.

Sieh es dir an

Drei Schritte: x verdoppeln, dann 1 addieren, dann quadrieren. Start bei x = 2: verdoppeln ergibt 4, addieren von 1 ergibt 5, quadrieren ergibt 25.

Verschiebe x jetzt um einen winzigen Betrag. Das Verdoppeln macht den Verschiebebetrag 2 mal größer. Das Hinzufügen von 1 lässt ihn gleich groß (mal 1). Das Quadrieren bei 5 multipliziert ihn mit 2 mal 5 = 10. Also bewegt sich das Ende 2 mal 1 mal 10 = 20 mal den Verschiebebetrag.

Chain rule: Die Steigung einer Kette von Schritten ist das Produkt der eigenen Steigung jedes Schritts, wobei jeder Schritt dort gemessen wird.

Überprüfung durch leichtes Verschieben: x = 2.001 ergibt 2 * 2.001 + 1 = 5.002, quadriert 25.020004. Das Ende hat sich um 0.020004 bewegt für eine Verschiebung von 0.001: 20 Mal. Es funktioniert.

Zusammenfassung Multipliziere die lokalen Steigungen entlang der Kette.

Wörter und Symbole in dieser Lektion
kettenregel
die Steigung von Schritten in einer Reihe ist das Produkt der eigenen Steigung jedes Schritts
Du bist dran

Die Kette ist g(x) = (3x - 2) ** 2, dann h(u) = u ** 3, also ist das Ende h(g(x)). Schreibe chain_slope(x), das die Steigung des Endes in Bezug auf x unter Verwendung der Kettenregel (multipliziere die lokalen Steigungen) zurückgibt, nicht durch Nudging. Beachte, dass g selbst zwei Schritte sind, zuerst 3x - 2 und dann Quadrieren, also hat die gesamte Kette drei Schritte: multipliziere alle drei lokalen Steigungen, jede gemessen dort, wo ihr Schritt ist.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.