可以穿过它训练的采样
为什么重要 编码是从 N(mu, spread) 中的一次随机抽取。反向传播需要一个从损失回到 mu 和 logvar 的斜率,而“一个随机数”是没有斜率的。一次改写就能修复它,而这种改写的用途远远超出了 VAE。
先从一条固定的钟形曲线中抽取随机性:从 N(0, 1) 中抽取 eps。然后用它构建编码:
code = mu + exp(logvar / 2) * eps
这个编码的取值离散程度和从 N(mu, spread) 中的一次抽取完全一样,但现在它是对 mu 和 logvar 的普通算术,而 eps 只是一个普通的输入。斜率很简单:d code / d mu = 1,以及 d code / d logvar = 0.5 exp(logvar / 2) eps。这就是重参数化技巧。
很小的数字
mu = 1,logvar = 0,eps = 0.5:code = 1 + 1 × 0.5 = 1.5。对 mu 的斜率:1。对 logvar 的斜率:0.5 × 1 × 0.5 = 0.25。
你需要为它准备一种新的运算 exp。课程的引擎已经有一个了(E.exp);在这里你要以第 4 模块的方式自己构建一个:前向值,以及一条把到达的梯度乘以局部斜率的反向规则(对于 exp,斜率就是 exp 本身)。
在课程的引擎中,一种运算就是一个张量 out = E.T(value, (parent,)),加上一条规则 out.back = lambda g: parent._acc(g * local_slope):back 接收到达 out 的梯度,而 _acc 把一个梯度加到父节点上。E.GUIDE 会打印出引擎的各个部件。
本课中的词语和符号
- 编码(潜变量)
- 编码器从一张图片中得到的那少数几个数字
- VAE
- 变分自编码器:一种编码被拉去填满 N(0, 1) 的自编码器,这样随机的编码就能解码成新的图片
- mu、logvar
- 在 VAE 中,一个编码数字的中心,以及它离散程度平方的对数
- 重参数化
- code = mu + exp(logvar / 2) × eps,先抽取 eps,这样梯度就能到达 mu 和 logvar
把 exp_op(a) 写成一种引擎运算(返回一个带有父节点和 back 规则的 E.T)。用 exp_op、E.scale、E.mul 和 E.add 编写 reparam(mu, logvar, eps)。然后对照微调检查两个梯度,并把 max_gap 设为你找到的最大差异。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。