Программа курса Урок 63 из 246 · Модуль 4: Ваш собственный движок autograd
Модуль 4: Ваш собственный движок autograd

Контрольная задача: добавьте новую операцию (ИИ выключен)

Почему это важно Добавление операции с её правилом backward и её проверка - ровно то, что вы будете делать для каждого нового слоя на этапе 3. Здесь вы делаете это сами. Уже знаете этот модуль? Можете сделать эту контрольную задачу первой, до других уроков: если пройдёте, модуль отмечается выполненным и открывается следующий.

ИИ-наставник выключен. Добавьте в свой движок tanh, exp и log, каждую с её правилом backward. Выведите локальный наклон каждой сами (наклоны из модуля 2; проверьте каждый подталкиванием, прежде чем ему доверять).

Слова и символы этого урока
Tensor
здесь: массив плюс его градиент плюс Tensor, из которых он получен
.grad
градиент итоговых потерь по этому Tensor
unbroadcast
суммирование градиента обратно до формы, из которой его растянули
zero_grad
сброс градиентов перед следующим шагом, потому что backward к ним прибавляет
Твоя очередь

Напишите три метода у Tensor. Скрытый тест проверяет градиенты формулы, использующей все три, на новых входах.

ИИ выключен: нет тьютора, подсказок или готового решения для этой задачи. Только ваши собственные мысли.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Код · запускается в вашем браузере
Вывод

        

Ваш прогресс учитывается анонимно. Измените это