课程大纲 第 212 课,共 246 课 · 第 20 模块:低成本地适配一个训练好的模型
第 20 模块:低成本地适配一个训练好的模型

在你自己的文本上微调这个 GPT

为什么重要 这就是日常的用法:一个通用模型、你的文本、一个便宜的适配器。检验标准是它是否学会了你的文本,同时保住了其余的东西。

把你自己的文本放进 my_text:笔记、一篇文章、你写的代码,至少 5,000 个字符(默认是 Python 参考解法的一部分,这样这一课按原样就能运行)。模型从没见过的字符会被丢掉。最后 20% 会被留出来用于测试。

训练秩为 8 的 LoRA,60 步、每步 8 个窗口。当你的文本的留出部分得分比基础模型好至少 0.3,并且英语损失上升不到 0.5 时就能通过。作为参照,在默认文本上:LoRA 让英语上升大约 0.29,完整微调上升大约 0.69,而两者学习这段文本的效果差不多。

本课中的词语和符号
微调
在新数据上继续训练一个训练好的模型
LoRA
低秩适配:一个冻结的权重矩阵加上两个细长的可训练矩阵,x W + (alpha / r) x A B
秩(r)
LoRA 的两个矩阵有多细:每个矩阵 (d_in + d_out) × r 个可训练权重
轮到你了

填写 base_scores 和 tuned_scores:在训练 LoRA 模型之前和之后的(英语损失,在你的文本留出的 20% 上的损失)。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。