第 16 模块:博弈中的两个网络(GAN,选修)
在八个团块上的博弈
你以前学过这门课程吗?
这样我们只统计你一次。只会发送你的答案,以及你的匿名进度。
为什么重要 图片会把 GAN 做错的地方藏起来。二维中的点则不会:你一眼就能看出生成器找到了数据的哪些部分、漏掉了哪些部分。
真实数据:一个圆上的 8 个紧凑的团块。一个好的生成器会把点放在全部 8 个团块上,大致均匀。评判器 ganlab.coverage(points) 给出两个数字:覆盖的团块(一个团块在获得超过 2% 的点时才算数)和质量(落在任意一个团块上的点所占的比例)。
看一看这个场景:真实的团块,然后是一个训练好的生成器的点落在哪里,再然后是一个崩塌了的生成器。
一个训练步骤分为两半:
- D 的回合。一批真实的点(
ganlab.ring(128, rng))和一批假的点。把假的点当作普通的数字(.data),这样 D 的这一步就不会伸进 G 里。损失 = BCE(score(real), 1) + BCE(score(fake), 0)。让 D 走一步。 - G 的回合。新的噪声,生成,用 D 打分,损失 = BCE(score, 1):非饱和损失。让 G 走一步。这次反向传播也填充了 D 的梯度;把它们设回
None,否则它们会泄漏到 D 的下一步中。
GAN 使用第一个 beta 为 0.5 的 Adam(课程自己的 Adam 接受 b1)。课程测量了原因:用默认的 0.9,同一个 GAN 在 5 个种子上覆盖了 1 到 7 个团块,用 0.5 则覆盖了 7 或 8 个。
本课中的词语和符号
- GAN
- 生成对抗网络:一个生成器和一个判别器彼此对抗地训练
- 生成器(G)
- 把噪声变成一个样本的网络
- 饱和损失
- G 最小化 log(1 - D(G(z)));一旦 D 有了把握,它的斜率就接近 0,所以 G 停止学习
- 非饱和损失
- G 最小化 -log D(G(z));同样的目标,即使 D 很有把握也能全力推动
- 覆盖的团块、质量
- 环形评判器:获得超过 2% 的点的团块,以及落在某个团块上的点所占的比例
轮到你了
编写训练循环的主体:2000 步(在浏览器中大约 4 秒)。至少覆盖 7 个团块、质量至少 0.5 才能通过。自己编写循环:这里禁止使用 ganlab.train。
本课已完成。干得好。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。