课程大纲 第 225 课,共 246 课 · 第 21 模块:观察模型的内部
第 21 模块:观察模型的内部

读懂一个特征,并检验这种读法

为什么重要 一个特征的名字来自它最靠前的样本。那个名字是一个假设,而大多数已发表的特征标签,从来没有在标注者没见过的文本上检验过。

加载课程被记录的稀疏自编码器(256 个特征,l1 为 0.3,训练了 2,000 步、每步 512 个向量,比一节课允许的更长,而且在每台机器上都是同样的特征),并为几个字符串挑出在文本以那个字符串结尾的位置上最具特异性的特征。然后给它贴上标签,并在留出的文本上检验这个标签:

  • 精确率:在留出文本中这个特征强烈激活(超过它在训练中最大值的一半)的地方,文本确实以那个字符串结尾的比例;
  • 召回率:在留出文本中以那个字符串结尾的地方,它激活了的比例。

interp.top_contexts(sae, A, X, model, k) 显示特征 k 激活得最强的地方,以到那个字符为止的文本的形式。

先预测:“tra”的特征在“ before tra”和“ layers tra”(“train”的开头)上激活得最强。一个“tra”标签在新的文本上大部分时候会是对的吗?

本课中的词语和符号
稀疏自编码器
一个被训练来每次只用少数几个活跃特征去重建向量的宽层
(一个标签的)精确率、召回率
在一个特征激活的地方中,标签适用的比例;在标签适用的地方中,它激活的比例
轮到你了

把 my_guess 设为 "yes" 或 "no"。编写 check(k, s),在留出的向量上返回 (precision, recall),当一个特征在某处的值超过它在训练向量上最大值的一半(F[:, k].max())时,就说它在那里激活了。为 " the"、"ing" 和 "tra" 填写 results[s] = check(feature_for(s), s)。把 honest_label 设为那些标签站得住的字符串(精确率至少 0.7),并把 really 设为“tra”特征在留出文本中最常激活的那个三字母结尾。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。