课程大纲 第 191 课,共 246 课 · 第 17 模块:噪声进去,图片出来(扩散模型)
第 17 模块:噪声进去,图片出来(扩散模型)

教一个训练好的模型新东西(微调)

为什么重要 没有人会为了得到一种新风格而从零开始训练一个大型图像模型:他们会微调一个已经知道图片是怎么回事的模型。在新数据上训练几百步就可能足够了,因为模型所知道的大部分东西仍然适用。

新任务:镜像书写。每一个训练数字都左右翻转了。训练好的数字模型从没见过这样的数字。

difflab.train_digits(steps=..., model=model, data=(pictures, labels)) 会在你的数据上继续训练一个已有的模型。

你怎样检查它学会的是镜像书写,而不是别的东西?把它的样本翻转回来:如果它们被识别为所请求的数字,它画的就是镜像的数字。而没有翻转的样本现在应该大多识别不正确,除了那些在镜子里看起来一样的数字(0、1 和 8 差不多是这样):如果大多数仍然识别正确,它就没有改变多少。

本课中的词语和符号
eps
被加入的钟形曲线噪声;网络学习去预测它
DDIM
通过在少数几个步骤之间跳跃、不加入新的噪声来采样
微调
在新数据上继续训练一个训练好的模型
轮到你了

编写 mirror(pictures)(每行 64 个像素,左右翻转),在镜像的训练数字上把模型微调最多 400 步(几秒钟;300 步就够了),并用以下内容填写 after:500 个样本(w = 2,20 个 DDIM 步骤)翻转回来后被识别为所请求数字的比例、不翻转时识别正确的比例,以及翻转回来的样本的接近度。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。