课程大纲 第 99 课,共 250 课 · 神经网络直觉、LLM 与 AI 综合项目
神经网络直觉、LLM 与 AI 综合项目

从零实现一个神经元

整个深度学习都由一个小小的部件构建而成:人工神经元。它按顺序做三件事。

  • 加权和。把每个输入乘以它自己的权重,然后加起来。权重说明那个输入有多重要。
  • 加上偏置。一个把结果往上或往下平移的数,就像截距。
  • 激活。把结果通过一个非线性函数压缩,让神经元能表达的不只是一条直线。

一个经典的激活函数是 sigmoid,它把任何数映射到 0 和 1 之间的一个值(很适合表示概率):

sigmoid(z) = 1 / (1 + e^(-z))

几个标志点:sigmoid(0) 恰好是 0.5,大的正输入趋近于 1,大的负输入趋近于 0。把它们组合起来,一个神经元就只是:

import numpy as np

def neuron(x, w, b):
    z = np.dot(x, w) + b      # weighted sum + bias
    return 1 / (1 + np.exp(-z))  # sigmoid activation

np.dot(x, w) 一次性对整个输入向量完成乘法和加法。整个想法就是这样。把成千上万个这样的东西堆起来并训练权重,你就有了一个神经网络。

轮到你了

用 numpy 实现 neuron(x, w, b)。计算加权和 np.dot(x, w),加上偏置 b,然后返回它的 sigmoid。然后用给定的 x、w 和 b 设 out = neuron(x, w, b)。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。