课程大纲 第 100 课,共 246 课 · 第 8 模块:训练诊所 I
第 8 模块:训练诊所 I

相信这个助手吗?

为什么重要 AI 助手会很乐意诊断你的训练。它们常常是对的,有时却自信地错了。技巧在于用证据而不是语气去知道是哪一种。

一个 AI 助手查看了十次出问题的训练,并为每一次说出了一个故障。它大约三分之一的答案是错的,而它们听起来和那些对的答案一样自信。对每一个案例,做出决定:接受还是拒绝。每一个决定都要基于一个探针,而不是基于这个说法听起来有多可信。

你的分数是判断准确率:你的接受或拒绝有多常和真相一致。(这不是校准,第 9 模块会定义校准:信心是否和你正确的频率相符。)留意那些符合某些症状、却不符合决定性症状的说法:一个停滞的损失可能是学习率太低,也可能是学习率本来没问题,后来下降了。

探针它告诉你什么
loss_curve(c)每 50 步的训练损失以及最终的验证准确率。总是先看它。
loss_at_init(c)训练前的损失。一个新的 10 类模型应该接近 ln(10) = 2.30。
overfit_one_batch(c)它能记住 32 个样本吗?一个健康的设置会接近 0。
grad_norms(c)开始时每个权重矩阵的梯度大小。为零意味着什么都学不到。
update_ratio(c)普通 SGD 的步长相对于权重大小的比例。健康的大约是 0.001 到 0.1(这是针对普通 SGD 的经验法则;第 14 模块会说明为什么 Adam 不同)。
act_stats(c)隐藏激活:均值、最大值、死亡单元所占的比例。
lr_schedule(c)第 0、50、100 步等处的学习率。
batch_labels(c)前几个批次中的标签。
overlap(c)有多少个验证样本也出现在训练中。
本课中的词语和符号
探针
对一次训练的快速测量,比如梯度大小或死亡单元
判断准确率
你对一个说法的接受或拒绝有多常和真相一致
轮到你了

对于每一个案例 A 到 J,把 verdicts[case] 设为 True(助手是对的)或 False。你需要在 10 个中至少答对 9 个。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。