课程大纲 第 183 课,共 246 课 · 第 17 模块:噪声进去,图片出来(扩散模型)
第 17 模块:噪声进去,图片出来(扩散模型)

指回数据的箭头(看一看)

为什么重要 在你看到网络实际学到了什么之前,去除噪声听起来像是魔法:对于任何一个有噪声的点,一个指向干净数据可能所在之处的箭头。生成就是顺着这些箭头回家。

网络被训练来预测被加入的噪声 eps。把捷径反过来,它的猜测就变成了对干净点的猜测:

x0_estimate = (x_t - sqrt(1 - abar_t) eps_predicted) / sqrt(abar_t)

从每一个有噪声的点画一个箭头指向它的 x0 估计,你就得到了一片箭头场。看一看这个场景:同样的点网格,在一个噪声很大的步骤上,以及在一个几乎干净的步骤上。

先预测:在哪一步,箭头之间彼此更一致,都指向大致相同的地方:第 60 步(噪声很大)还是第 10 步(几乎干净)?

本课中的词语和符号
abar
经过若干步之后原始信号所剩下的比例(它的平方根乘以 x0)
x0、x_t
干净的数据,以及经过 t 步噪声之后的同一份数据
eps
被加入的钟形曲线噪声;网络学习去预测它
轮到你了

把 my_guess 设为 60 或 10。训练一个模型(difflab.train('spiral'),几秒钟),然后为 11 × 11 的网格计算第 60 步和第 10 步的 x0 估计。为两个步骤填写 spread(估计的离散程度,est.std(axis=0).mean())和 near(它们到螺旋的平均距离,difflab.nearest_distance(est).mean())。然后把 agree_more 设为你的数字显示估计更一致的那一步(60 或 10)。你的猜测保持你做出时的样子。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。