シラバス レッスン 246 中 163 · モジュール 14:訓練クリニック II
モジュール 14:訓練クリニック II

記録だけから診断する

なぜ大切か 何も走らせ直せないことはよくあります:実行は誰か別の人のものだったか、1 週間かかったか。持っているのは記録されたものだけです。このコースの 2 つの記録した実験が、本物の失敗を持っています。

gpt-width-lr では、ある設定が 学習率で壊れている のは、記録した 3 つのシードで平均したその最終の取り分けた損失が、同じ幅の最良の設定より 0.5 を超えて悪いときです。cnn-depth-shortcuts では、ひとつの実行が 止まっている のは、そのテストの正解率がどのエポックでもまったく同じときです:すべてにひとつのクラスを答えているのです(図形のクラスは 4 つなので、約 0.25)。

見る前に予測してください:どの GPT の実行が壊れていて、どの CNN が止まっているか?

あなたの番

記録から計算して、broken を (width, lr) の組で、stuck を (depth, shortcuts, seed) の三つ組で埋めてください。exp.seeds(d=..., lr=...) がひとつの設定の 3 つの実行を返します。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。