第 20 模块:低成本地适配一个训练好的模型
在预算之下选择一种方法
你以前学过这门课程吗?
这样我们只统计你一次。只会发送你的答案,以及你的匿名进度。
为什么重要 这个模块中的每一种方法,都是对一个不同问题的正确答案。按潮流挑选会浪费钱;根据测量挑选才是这份工作。
你测量过的东西,汇总在一个地方:
- 完整微调(200 步):代码 2.19,英语 2.26。训练全部 107,072 个权重;需要存储一整份新的模型副本。
- 秩为 4 的 LoRA:代码 2.27,英语 2.04。训练 8,192 个;只存储这些。
- 蒸馏到一个 16 宽的学生(3000 步):英语 1.98,权重大约是 1/8,对比独自训练的 2.18。
- 量化:8 位,四分之一的大小,没有变化;4 位,八分之一,+0.13。
对于每一种情况,选择测量结果所支持的方法。
本课中的词语和符号
- 微调
- 在新数据上继续训练一个训练好的模型
- LoRA
- 低秩适配:一个冻结的权重矩阵加上两个细长的可训练矩阵,x W + (alpha / r) x A B
- 秩(r)
- LoRA 的两个矩阵有多细:每个矩阵 (d_in + d_out) × r 个可训练权重
- 蒸馏
- 训练一个小的学生去照搬一个大的老师的完整概率
- 温度(蒸馏)
- 在 softmax 之前除分数,让第二选择更有分量
- 量化
- 通过把权重舍入到少数几个台阶,用更少的位来存储它们
轮到你了
为每一种情况,用 "full fine-tune"、"LoRA"、"distillation" 或 "quantisation" 中的一个填写 choice。
本课已完成。干得好。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。