第 0 模块:起跑线
这门课怎么运作,以及你的第一个预测
你以前学过这门课程吗?
这样我们只统计你一次。只会发送你的答案,以及你的匿名进度。
为什么重要 大多数人学习神经网络的方式,是看着别人的代码运行。在这里,你会构建每一个部件,并在事情发生之前预测会发生什么。先预测,正是把“看”变成“理解”的东西。
在你开始之前
- 你需要什么。中学数学(课程会教它用到的每一个斜率、对数和概率)以及一些 Python:循环、函数、列表和字典。不需要安装任何东西:一切都在这个浏览器里运行。
- 需要多长时间。第 1 部分(构建与训练,第 0 到第 14 模块)大约需要 90 小时,如果你跳过 Python 模块大约是 80 小时:每周 6 小时的话,大约 15 周。第 2 部分(生成、规模与理解,第 15 到第 24 模块:生成模型、扩散模型、自监督学习、缩放定律、适配模型和观察模型内部、评判各种说法、一个毕业项目和期末考试)再增加大约 50 小时,也就是再多 9 周。每个部分都有自己的证书。每个模块都会在课程页面上显示它自己的时间。
- 已经熟练掌握 Python 了?第 1 模块以一个关卡结束。先参加它:通过它就能跳过这个模块,你会直接进入数学部分。
- 有经验的程序员?显示的时间是针对这个主题的新手的。已经以写代码为生的人常常只需要其中的三分之一,在数学和最初的网络模块(第 2 到第 4 模块)中尤其如此:先读每一课的练习,只在对你来说是新东西的地方放慢速度。
- 已经了解某个模块的主题了?第 1 模块(Python)、第 2 模块(数学)、第 3 模块(从神经元到网络)、第 4 模块(自动微分)和第 7 模块(新数据)都以一个你可以先参加的关卡结束,此时 AI 导师是关闭的。通过它会把这个模块标记为完成,并打开下一个模块;证书会把这个关卡计入那个模块。
你将练习的四个习惯
- 预测曲线。在一次训练之前,你要猜它在几个点上的损失。然后它开始运行,你会看到自己猜得有多接近。在整门课中你的猜测会变得越来越准;这种变准就是真正的直觉。
- 亲手赢得那一层。课程有一个由现成的层组成的小型库。每一层都保持锁定,直到你用纯 NumPy 亲手构建了它,并且它通过了一次梯度检查。在那之后,你就使用它的快速版本。
- FLOP 账本。一个 FLOP 是一次乘法或加法。课程中的每一次训练都会报告它用了多少,这样你就会知道什么便宜、什么昂贵。
- 四个刻度盘。你的进步在四项技能上被测量:构建(写出来)、诊断(找出什么坏了)、预测(说出会发生什么)和信任(判断一个 AI 的答案什么时候是错的)。
你的第一次预测曲线
下面,一个单独的神经元会通过梯度下降学习直线 y = 3x + 1。损失一开始很高,然后下降。猜一猜第 0、5、20 和 100 步时的损失,然后运行代码:它会训练,并把你的猜测和真实值并排打印出来,附上一个分数。不要担心猜得对不对。做一个真实的猜测。
损失:一个说明模型此刻错得有多离谱的数字。训练的任务就是让它变小。
本课中的词语和符号
- 损失
- 说明模型错得有多离谱的一个数字;训练会让它变小
- 预测曲线
- 在一次训练之前猜它在几个点上的损失,然后做比较
- FLOP
- 一次乘法或加法;课程用它来衡量一次训练的成本
- 四个刻度盘
- 构建、诊断、预测和信任:考试所测量的四项技能
轮到你了
把 my_guess 中的每一个 None 替换成你对第 0、5、20 和 100 步损失的猜测。然后运行。任何诚实的猜测都能通过;分数是给你自己看的。
本课已完成。干得好。
代码 · 在你的浏览器里运行
输出
你的学习进度会被匿名统计。 更改
这个练习即将开放
完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。
这个浏览器屏蔽了 learn.floati.life 的 Cookie,所以你在这里完成的课程无法按顺序打开。请允许这个网站使用 Cookie,然后重新加载。