シラバス レッスン 246 中 216 · モジュール 20:訓練したモデルを安く適応させる
モジュール 20:訓練したモデルを安く適応させる

予算のもとで手法を選ぶ

なぜ大切か このモジュールのそれぞれの手法は、異なる問いへの正しい答えです。流行で選ぶとお金を無駄にします。測定から選ぶことが仕事です。

測ったことを、ひとつの場所に:

  • 完全なファインチューニング(200 ステップ):コード 2.19、英語 2.26。107,072 の重みすべてを訓練する。保存するのはモデルのまるごと新しい写し。
  • LoRA ランク 4:コード 2.27、英語 2.04。8,192 を訓練する。保存するのはそれだけ。
  • 幅 16 の生徒への 蒸留(3000 ステップ):重みの約 1/8 で英語 1.98、ひとりで訓練すると 2.18。
  • 量子化:8 ビット、4 分の 1 の大きさ、変化なし。4 ビット、8 分の 1、+0.13。

それぞれの状況について、測定が支える手法を選んでください。

このレッスンの言葉と記号
ファインチューニング
訓練したモデルを新しいデータで訓練し続けること
LoRA
低ランク適応:凍らせた重みの行列足す 2 つの細い訓練できる行列、x W + (alpha / r) x A B
ランク(r)
LoRA の 2 つの行列がどれだけ細いか:行列あたり (d_in + d_out) x r の訓練できる重み
蒸留
小さな生徒が大きな先生の確率の全体を写すよう訓練すること
温度(蒸留)
2 番目の選択がより効くよう、ソフトマックスの前に点数を割ること
量子化
重みをいくつかの段に丸めて、より少ないビットで保存すること
あなたの番

それぞれの状況について、"full fine-tune"、"LoRA"、"distillation"、"quantisation" のどれかで choice を埋めてください。

このレッスンに問題を見つけましたか?報告する · このレッスンについて質問する

この演習はまもなく開きます

その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。