课程大纲 第 43 课,共 246 课 · 第 3 模块:从神经元到 MLP
第 3 模块:从神经元到 MLP

一个隐藏层解决了 XOR

为什么重要 这就是深度证明自身价值的时刻:中间层的两个神经元把空间弯折,让一条直线就能完成剩下的工作。

看见它

播放动画。两个隐藏神经元各画出自己的一条直线。神经元 1 在“至少有一个输入为 1”时激发(一个 OR)。神经元 2 在“两个都为 1”时激发(一个 AND)。用这两个新特征来说,XOR 就是“OR 但不是 AND”:输出神经元计算 h1 减 h2。

很小的数字

使用阶跃激活函数(总和大于 0 时为 1,否则为 0)。h1 = step(x1 + x2 - 0.5) 是 OR。h2 = step(x1 + x2 - 1.5) 是 AND。输出 = step(h1 - h2 - 0.5)。检查 (1,1):h1 = 1,h2 = 1,输出 step(-0.5) = 0。正确。

隐藏层:输入和输出之间的一层,它的神经元构建出下一层可以使用的新特征。

回顾 每一层都重新描述数据,让下一层的工作更容易。

本课中的词语和符号
神经元
w . x + b,然后接一个激活函数
权重(w、W)、偏置(b)
神经元学习的数字;偏置会平移它的输出
隐藏层
输入和输出之间的一层,它构建新的特征
轮到你了

设置一个使用阶跃激活函数的两层网络的权重 W1(2 乘 2)、b1(2)、w2(2)和 b2,让 forward(X) 把 XOR 的四个点全部答对。用你自己的数字,或者上面的那些。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。