课程大纲 第 189 课,共 246 课 · 第 17 模块:噪声进去,图片出来(扩散模型)
第 17 模块:噪声进去,图片出来(扩散模型)

更少的步数(DDIM)

为什么重要 每张图片 100 次网络调用很慢,而真实的模型用的是 1000 次。DDIM(Song、Meng 和 Ermon,2021)会跳过一些步骤:它从 x_t 直接跳到一个早得多的步骤,不加入新的噪声,使用的是同一个训练好的网络。你能用多少步就蒙混过关?

课程的数字模型训练过一次(difflab.recorded_digit_model())。difflab.sample_digits(model, labels, w=2.0, steps=k) 用 k 个 DDIM 步骤为每个标签画一张图片(steps=None 会运行全部 100 个 DDPM 步骤)。第 15 模块的评判器会给它们打分:和最近的真实数字的接近度(真实数字为 1.04)。

预测曲线

在测量之前,猜一猜在 2、5、10、20 和 100 步时的接近度。论文和博客文章常常说,低于 50 步时质量会明显下降。在这个模型上测量它。

本课中的词语和符号
x0、x_t
干净的数据,以及经过 t 步噪声之后的同一份数据
eps
被加入的钟形曲线噪声;网络学习去预测它
DDPM
通过倒着走过每一个步骤、每次都加入新的噪声来采样
DDIM
通过在少数几个步骤之间跳跃、不加入新的噪声来采样
轮到你了

填写 my_guess(五个接近度数字),然后用每一种步数下真实的接近度填写 measured,并把 fewest_good 设为接近度和 100 步的结果相差在 0.05 以内的最少步数。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。