Einen Impuls weitergeben (die Kettenregel)
Warum das wichtig ist Ein Netzwerk ist Funktionen innerhalb von Funktionen. Die Kettenregel sagt, wie ein kleiner Impuls am Anfang bis zum Ende gelangt. Backpropagation ist nichts anderes als das.
Sieh es dir an
Drei Schritte: x verdoppeln, dann 1 addieren, dann quadrieren. Start bei x = 2: verdoppeln ergibt 4, addieren von 1 ergibt 5, quadrieren ergibt 25.
Verschiebe x jetzt um einen winzigen Betrag. Das Verdoppeln macht den Verschiebebetrag 2 mal größer. Das Hinzufügen von 1 lässt ihn gleich groß (mal 1). Das Quadrieren bei 5 multipliziert ihn mit 2 mal 5 = 10. Also bewegt sich das Ende 2 mal 1 mal 10 = 20 mal den Verschiebebetrag.
Chain rule: Die Steigung einer Kette von Schritten ist das Produkt der eigenen Steigung jedes Schritts, wobei jeder Schritt dort gemessen wird.
Überprüfung durch leichtes Verschieben: x = 2.001 ergibt 2 * 2.001 + 1 = 5.002, quadriert 25.020004. Das Ende hat sich um 0.020004 bewegt für eine Verschiebung von 0.001: 20 Mal. Es funktioniert.
Zusammenfassung Multipliziere die lokalen Steigungen entlang der Kette.
Wörter und Symbole in dieser Lektion
- kettenregel
- die Steigung von Schritten in einer Reihe ist das Produkt der eigenen Steigung jedes Schritts
Die Kette ist g(x) = (3x - 2) ** 2, dann h(u) = u ** 3, also ist das Ende h(g(x)). Schreibe chain_slope(x), das die Steigung des Endes in Bezug auf x unter Verwendung der Kettenregel (multipliziere die lokalen Steigungen) zurückgibt, nicht durch Nudging. Beachte, dass g selbst zwei Schritte sind, zuerst 3x - 2 und dann Quadrieren, also hat die gesamte Kette drei Schritte: multipliziere alle drei lokalen Steigungen, jede gemessen dort, wo ihr Schritt ist.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.