Программа курса Урок 52 из 246 · Модуль 4: Ваш собственный движок autograd
Модуль 4: Ваш собственный движок autograd

Числа вперёд, градиенты назад

Почему это важно Прежде чем строить движок, посмотрите в точности, что он должен делать, на пяти числах.

Запустите анимацию и пройдите её медленно. Заметьте две вещи. При движении вперёд каждой коробке нужны только её входы. При движении назад каждой коробке нужен только градиент, приходящий от следующей за ней коробки, и её собственный локальный наклон. Именно эта локальность делает движок возможным: каждой операции нужно знать лишь своё маленькое правило.

Итоги Градиент в коробке = градиент, приходящий после неё, умноженный на локальный наклон коробки. Где коробка питает две другие, складывайте то, что возвращается от обеих.

Твоя очередь

Новые числа, та же формула L = (a * b + c) ** 2, при a = 1, b = 4, c = -2. Вычислите вручную (код не нужен, кроме чисел) и присвойте grad_a, grad_b и grad_c.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.