シラバス レッスン 246 中 52 · モジュール 4:自分の自動微分のエンジン
モジュール 4:自分の自動微分のエンジン

数は前へ、勾配は後ろへ

なぜ大切か エンジンを作る前に、それがまさに何をしなければならないかを、5 つの数で見ましょう。

アニメーションを再生し、ゆっくり一歩ずつ進めてください。2 つのことに気づいてください。前へ進むとき、それぞれの箱に要るのは自分の入力だけです。後ろへ進むとき、それぞれの箱に要るのは、自分のあとの箱から届く勾配と、自分の局所的な傾きだけです。その局所性がエンジンを可能にします:どの操作も、自分の小さな規則だけを知っていればよいのです。

まとめ 箱での勾配 = あとから届く勾配、掛ける箱の局所的な傾き。箱が 2 つのほかのものに流れ込むところでは、両方から戻るものを足し合わせます。

あなたの番

新しい数で、同じ式 L = (a * b + c) ** 2、a = 1、b = 4、c = -2。手で割り出し(数のほかにコードは要りません)、grad_a、grad_b、grad_c を設定してください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。