混ざりをほどく:スパースオートエンコーダー
なぜ大切か 特徴が重ね合わせで保存されているなら、ユニットを見てもそれは見つかりません。スパースオートエンコーダー(Bricken ら 2023、Cunningham ら 2023)はそれを元に戻そうとします:それぞれのベクトルを、持っている数よりずっと多くの向きから、でも一度に少しずつだけ使って作り直すのです。
レッスンの文章 19,200 文字について、ブロック 1 のあとの GPT の 64 の数のベクトルを取ります。256 の特徴を持つスパースオートエンコーダーは f = relu(z We + be) を計算し、z = f Wd を作り直します。損失は作り直しの誤差足す l1 掛ける f の全体の大きさで、それがほとんどの特徴をちょうど 0 に押します。
interp.train_sae(A, features=256, l1=...) がひとつ訓練します。sae.unexplained(A) は作り直しが逃すベクトルの広がりの割合(0 が完璧)で、sae.features(A) が f を返します。
まず予測してください:強い押し(l1 = 0.3)で、作り直しはまだ広がりのほとんどを説明するか(説明されないものが 0.2 未満)?
このレッスンの言葉と記号
- 重ね合わせ
- めったに同時にオンにならない向きとして、数の数より多くの特徴を保存すること
- スパースオートエンコーダー
- 一度に少しの働いている特徴からベクトルを作り直すよう訓練した、幅の広い層
my_guess を "yes" か "no" に設定してください。l1 0.03 と 0.3 で訓練します(それぞれ 128 のベクトルの 600 ステップ)。取り分けたベクトル A_new の上で unexplained[l1] を、そして active[l1] を埋めてください:取り分けた文字あたりの 0 より上の特徴の平均の数。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。