课程大纲 第 121 课,共 246 课 · 第 10 模块:会看的网络(CNN)
第 10 模块:会看的网络(CNN)

网络在看什么,经过检验

为什么重要 “网络在看什么”的热力图随处可见,而且常常误导人。在这里你会做出一张,然后检验它到底有没有意义。

显著性图是获胜类别的得分对每一个输入像素的梯度:那个像素的亮度会让答案改变多少。你的引擎能免费算出它:把输入做成一个 Tensor,然后调用 backward。

检验它,不要轻信它

如果这张图真的标出了重要的像素,那么把最显著的 20 个像素抹掉,应该比抹掉 20 个随机像素更伤网络的信心。这就是一个删除测试。通不过它的图只是装饰。

但是打败随机像素是一个很低的门槛。在这些形状上,亮的像素就是形状本身,所以一张只是标出最亮像素的图,完全不涉及网络,也能打败随机。公平的问题是,网络的图能不能打败那个不用模型的基线。如果不能,它告诉你的东西,看一眼图片就能知道。

基线:能够解释一个结果的最简单的东西。一种方法只有打败最好的廉价基线,而不是最差的那个,才能赢得信任。

本课中的词语和符号
显著性图
获胜得分对每一个输入像素的梯度
RECORDED(已记录)
课程训练过一次、交给你研究的一次真实运行
轮到你了

课程训练过一次的一个 CNN 已经为你加载好了(一个记录下来的网络,在新形状上 96%)。为一张形状为 (16, 16, 1) 的图像 x 编写 saliency(x),返回每个像素上 |获胜得分的梯度|,形状为 (16, 16)。要求一个得分的梯度,用 E.cols(scores, k, k + 1) 选出它那一列,用 E.total 把它加起来,再对它调用 backward。然后编写 deletion_drop(x, pixels),其中 pixels 是一个由 (row, column) 对组成的列表:把这些像素设为 0 时获胜类别概率的下降量。最后,在前 100 张测试图像上测量最显著的 20 个像素和最亮的 20 个像素的平均下降量,并根据你自己的数字把 beats_brightness 设为 True 或 False。测试还会拿你的图和 20 个随机像素做比较。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。