モジュール 20:訓練したモデルを安く適応させる
予算のもとで手法を選ぶ
以前このコースを受けたことがありますか?
あなたを 1 人として数えるためです。送られるのはあなたの答えと匿名の進捗だけです。
なぜ大切か このモジュールのそれぞれの手法は、異なる問いへの正しい答えです。流行で選ぶとお金を無駄にします。測定から選ぶことが仕事です。
測ったことを、ひとつの場所に:
- 完全なファインチューニング(200 ステップ):コード 2.19、英語 2.26。107,072 の重みすべてを訓練する。保存するのはモデルのまるごと新しい写し。
- LoRA ランク 4:コード 2.27、英語 2.04。8,192 を訓練する。保存するのはそれだけ。
- 幅 16 の生徒への 蒸留(3000 ステップ):重みの約 1/8 で英語 1.98、ひとりで訓練すると 2.18。
- 量子化:8 ビット、4 分の 1 の大きさ、変化なし。4 ビット、8 分の 1、+0.13。
それぞれの状況について、測定が支える手法を選んでください。
このレッスンの言葉と記号
- ファインチューニング
- 訓練したモデルを新しいデータで訓練し続けること
- LoRA
- 低ランク適応:凍らせた重みの行列足す 2 つの細い訓練できる行列、x W + (alpha / r) x A B
- ランク(r)
- LoRA の 2 つの行列がどれだけ細いか:行列あたり (d_in + d_out) x r の訓練できる重み
- 蒸留
- 小さな生徒が大きな先生の確率の全体を写すよう訓練すること
- 温度(蒸留)
- 2 番目の選択がより効くよう、ソフトマックスの前に点数を割ること
- 量子化
- 重みをいくつかの段に丸めて、より少ないビットで保存すること
あなたの番
それぞれの状況について、"full fine-tune"、"LoRA"、"distillation"、"quantisation" のどれかで choice を埋めてください。
レッスン完了。お見事です。
この演習はまもなく開きます
その前のレッスンを終えると、このレッスンが解放されます。コース全体が無料でアカウントも不要、このレッスンは今すぐ読めます。
このブラウザは learn.floati.life の Cookie をブロックしているため、ここで修了したレッスンを順番どおりに開けません。このサイトの Cookie を許可して再読み込みしてください。