课程大纲 第 211 课,共 246 课 · 第 20 模块:低成本地适配一个训练好的模型
第 20 模块:低成本地适配一个训练好的模型

多细才够?(秩)

为什么重要 秩是 LoRA 唯一真正的设置。太细了,它学不会新的任务;过了某个点,更大的秩几乎什么都换不来。在为它付钱之前,那个点在哪里是值得预测的。

课程在代码上以秩 1 到 64 训练了 LoRA,还有完整的微调,各 3 个种子,200 步(adapt.recorded())。每一行都有秩、可训练权重数、代码损失(新的)和英语损失(旧的)。

预测曲线

在读它们之前,猜一猜秩 1、4、16 和 64 时的代码损失。参照点:训练前 3.25;完整微调大约 2.19。

本课中的词语和符号
微调
在新数据上继续训练一个训练好的模型
LoRA
低秩适配:一个冻结的权重矩阵加上两个细长的可训练矩阵,x W + (alpha / r) x A B
秩(r)
LoRA 的两个矩阵有多细:每个矩阵 (d_in + d_out) × r 个可训练权重
轮到你了

填写 my_guess(四个代码损失),然后填写 by_rank:对于秩 1、4、16、64 和 "full",在 3 个种子上的平均代码损失和平均英语损失。如果从秩 16 到 64 的收益小于从 1 到 4 的收益的四分之一,就把 diminishing 设为 True。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。