シラバス レッスン 246 中 133 · モジュール 11:記憶を持つネットワーク(RNN)
モジュール 11:記憶を持つネットワーク(RNN)

関門:2 つの欠陥を持つ壊れた RNN(AI オフ)

なぜ大切か 助けなしで、2 つの欠陥を一度に見つけること。それこそクリニックがあなたを鍛えてきたことです。

AI チューターはオフです。この文字の RNN には 2 つの欠陥があります。ひとつは損失がそれほど下がらないようにしますが、どの損失も有限の数のままです(何も爆発しない)。もうひとつは、ネットワークが断片の前のほうで読んだものを本当には使わないことを意味します。両方を見つけて直してください。

このレッスンの言葉と記号
再帰型ネットワーク(RNN)
一度に一歩ずつ読み、隠れ状態を前へ運ぶネットワーク
エントロピー
分布がどれだけ広がっているか:確実なら 0、n の選択がすべて等しければ ln(n)
あなたの番

init と run_snippet を直してください。200 ステップのあと、最後の 20 ステップの平均の損失は 2.45 より下で、どの損失も有限の数で、断片の最初の文字が最後の予測にまだ影響しなければなりません。

AI オフ:この問題ではチューター、ヒント、解答例はありません。自分の頭だけで考えましょう。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。