Программа курса Урок 53 из 246 · Модуль 4: Ваш собственный движок autograd
Модуль 4: Ваш собственный движок autograd

Tensor: массив, который помнит

Почему это важно Единственный тип данных движка - Tensor: массив плюс место для его градиента плюс запись о том, откуда он взялся.

Tensor хранит три вещи:

  • data: массив значений NumPy.
  • grad: массив той же формы, начинающийся с нулей, который заполнит backward.
  • parents: Tensor, из которых он вычислен (пусто для входов и весов).

Каждая операция создаёт новый Tensor и записывает его родителей. Сегодня - только прямая часть + и *: вычислить значения и запомнить родителей.

Tensor: в глубоком обучении просто n-мерный массив. Здесь - массив, который также несёт градиент и свою историю.

Слова и символы этого урока
Tensor
здесь: массив плюс его градиент плюс Tensor, из которых он получен
.grad
градиент итоговых потерь по этому Tensor
unbroadcast
суммирование градиента обратно до формы, из которой его растянули
Твоя очередь

Заполните __add__ и __mul__, чтобы они возвращали новый Tensor, data которого - сумма или произведение, а parents - (self, other). Простые числа тоже должны работать, через Tensor.lift. Пока не трогайте _backward.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.