シラバス レッスン 246 中 231 · モジュール 22:主張を判断する
モジュール 22:主張を判断する

部品をどう取り除くかが答えを変える

なぜ大切か 「この部品を取り除くと損失が X 上がる」は部品についての事実のように聞こえます。その一部は、それがどう取り除かれたかについての事実です。

モジュール 21 では、GPT の部品をその出力を 0 にして取り除きました。でもネットワークの残りは、訓練でそこに 0 を一度も見ていません:0 は出会ったことのない入力かもしれないので、損傷は情報の喪失と一緒に衝撃も測ります。よりやさしい取り除き方は、出力を多くの入力の上でのその 平均 に置き換えることです(平均のアブレーション):部品はこの入力について何も運ばなくなりますが、次の層はいつもの大きさの値をまだ受け取ります。

4 つの部品について両方を測ってください:'attn_out0'、'mlp_out0'、'attn_out1'、'mlp_out1'。平均は cache[site].mean((0, 1)) から来ます。

まず予測してください:ブロック 0 の MLP では、平均のアブレーションの代価は 0 にするより少ないか、ほぼ同じか?

このレッスンの言葉と記号
平均のアブレーション
部品の出力を、0 の代わりにその平均で置き換えること
あなたの番

my_guess を "less" か "same" に設定してください。zero[site] と mean[site] を損失の上がりで埋めます。most_overstated を、0 にすることが効果を最も誇張する部品に設定してください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。