Программа курса Урок 99 из 250 · Интуиция нейросетей, LLM и ИИ Капстоун
Интуиция нейросетей, LLM и ИИ Капстоун

Нейрон с нуля

Все глубокое обучение построено из одной крошечной части: искусственный нейрон. Он делает три вещи по порядку.

  • Взвешенная сумма.Умножьте каждый вход на его собственный вес и сложите их. Вес показывает, насколько важен этот вход.
  • Добавьте смещение. Одиночное число, которое сдвигает результат вверх или вниз, как свободный член.
  • Activation. Сжимайте результат через нелинейную функцию, чтобы нейрон мог выражать больше, чем прямую линию.

A классическая функция активации - это sigmoid, которая отображает любое число в значение от 0 до 1 (удобно для вероятностей):

sigmoid(z) = 1 / (1 + e^(-z))

Некоторые ориентиры: sigmoid(0) это точно 0.5, большие положительные входные данные приближаются к 1, а большие отрицательные входные данные приближаются к 0. Соединим это вместе и нейрон это просто:

import numpy as np

def neuron(x, w, b):
    z = np.dot(x, w) + b      # weighted sum + bias
    return 1 / (1 + np.exp(-z))  # sigmoid activation

np.dot(x, w) выполняет умножение и сложение для всего входного вектора сразу. В этом и заключается вся идея. Сложите тысячи таких элементов и обучите веса, и вы получите нейронную сеть.

Твоя очередь

Реализуйте neuron(x, w, b) с помощью numpy. Вычислите взвешенную сумму np.dot(x, w), добавьте смещение b, затем верните сигмоиду этого значения. После этого установите out = neuron(x, w, b) для заданных x, w и b.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.