小项目:通过微调拟合一条直线
为什么重要 这就是每一个神经网络学习的方式,只是去掉了那些花哨的词。在它有名字之前,你会先在这里亲手做一遍。
有一些点大致落在一条直线 y = slope * x + intercept 上,但我们不知道斜率和截距。让两者都从 0 开始。测量这条线错得有多离谱:误差是(预测减真实值)的平方的平均值。然后微调。
微调的配方
- 把斜率试着调高一点,再试着调低一点。哪一个能降低误差就保留哪一个,如果有的话。
- 对截距做同样的事。
- 重复。如果没有哪次微调有帮助,就把微调量变小,当它非常小时停下。
误差一步一步地下降,直到这条线落在那些点上。在第 3 模块,你会把“两个方向都试一试”换成一个公式,它能立刻告诉你哪个方向是下坡。那个公式就是梯度,而沿着它走就叫作梯度下降。你在这里构建的东西,依次把每个设置往上和往下试,也有它自己的名字:坐标搜索。它更慢,但它是同一个往山下走的想法。
均方误差:每一个错误的平方的平均值。取平方让每一个错误都变成正数,并且对大的错误惩罚得更重。
回顾 测量你错得有多离谱,微调,保留有帮助的,重复。
本课中的词语和符号
- 均值、离散程度
- 平均值,以及各个值大致离它有多远(标准差)
编写 mse(slope, intercept, x, y) 和 fit_line(x, y)。fit_line 使用微调的配方:从 0 和 0 开始,微调量为 1.0,每当没有哪次微调有帮助时就把微调量减半,当微调量低于 0.0001 时停下,并返回 (slope, intercept)。隐藏测试会检查在新数据上的误差是否接近可能的最佳值。
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。