第 20 模块:低成本地适配一个训练好的模型
多细才够?(秩)
你以前学过这门课程吗?
这样我们只统计你一次。只会发送你的答案,以及你的匿名进度。
为什么重要 秩是 LoRA 唯一真正的设置。太细了,它学不会新的任务;过了某个点,更大的秩几乎什么都换不来。在为它付钱之前,那个点在哪里是值得预测的。
课程在代码上以秩 1 到 64 训练了 LoRA,还有完整的微调,各 3 个种子,200 步(adapt.recorded())。每一行都有秩、可训练权重数、代码损失(新的)和英语损失(旧的)。
预测曲线
在读它们之前,猜一猜秩 1、4、16 和 64 时的代码损失。参照点:训练前 3.25;完整微调大约 2.19。
本课中的词语和符号
- 微调
- 在新数据上继续训练一个训练好的模型
- LoRA
- 低秩适配:一个冻结的权重矩阵加上两个细长的可训练矩阵,x W + (alpha / r) x A B
- 秩(r)
- LoRA 的两个矩阵有多细:每个矩阵 (d_in + d_out) × r 个可训练权重
轮到你了
填写 my_guess(四个代码损失),然后填写 by_rank:对于秩 1、4、16、64 和 "full",在 3 个种子上的平均代码损失和平均英语损失。如果从秩 16 到 64 的收益小于从 1 到 4 的收益的四分之一,就把 diminishing 设为 True。
本课已完成。干得好。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。