シラバス レッスン 246 中 155 · モジュール 13:アテンションとトランスフォーマー
モジュール 13:アテンションとトランスフォーマー

ヘッドが何を見ているか

なぜ大切か アテンションの重みは読めます。訓練したヘッドが何をするかを見ることは、解釈可能性の始まりです:出力だけでなく、中身からモデルを理解することです。

記録した幅 64 のモデルは 4 ヘッドの 2 層を持ちます。それぞれのヘッドについて、ある位置がすぐ前の文字に平均でどれだけのアテンションを与えるかを測ってください。もしヘッドが見てよいすべての上にアテンションを均等に広げたら、32 文字の断片の上でその数は約 0.10 でしょう。

予測してください:どの層のヘッドが「前の文字を見る」ことに特化するか?

このレッスンの言葉と記号
アテンション
クエリとキーの点数のソフトマックスで、バリューを平均するのに使う
ヘッド
横に並べて走らせる H の狭いアテンションのひとつで、それぞれ自分のパターンを持つ
あなたの番

my_guess を 0 か 1 に設定してください。ひとつの t × t のアテンションの行列について prev_share(A) を書きます:i が 1 から t - 1 の A[i, i - 1] の平均。attention_maps を使って、share を埋めてください:(layer, head) から、40 の取り分けた断片の上の prev_share の平均へ。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。