Programme Leçon 52 sur 246 · Module 4 : Ton propre moteur d'autograd
Module 4 : Ton propre moteur d'autograd

Les nombres vers l'avant, les gradients vers l'arrière

Pourquoi c'est important Avant de construire le moteur, vois exactement ce qu'il doit faire, sur cinq nombres.

Lance l'animation et avance pas à pas lentement. Remarque deux choses. Vers l'avant, chaque boîte n'a besoin que de ses entrées. Vers l'arrière, chaque boîte n'a besoin que du gradient qui arrive de la boîte d'après, et de sa propre pente locale. Cette localité est ce qui rend un moteur possible : chaque opération n'a besoin de connaître que sa propre petite règle.

Récap Le gradient d'une boîte = le gradient qui arrive d'après elle, fois la pente locale de la boîte. Là où une boîte en alimente deux autres, additionne ce qui revient des deux.

À ton tour

De nouveaux nombres, la même formule L = (a * b + c) ** 2, avec a = 1, b = 4, c = -2. Calcule à la main (pas besoin de code au-delà des nombres) et affecte grad_a, grad_b et grad_c.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.