Programme Leçon 51 sur 246 · Module 4 : Ton propre moteur d'autograd
Module 4 : Ton propre moteur d'autograd

Accroche : dix lignes qui entraînent un lecteur de chiffres

Pourquoi c'est important Au module 3, tu as écrit chaque gradient à la main. Les vrais réseaux ont des dizaines de types de couches ; personne ne les dérive à la main à chaque fois. Un moteur d'autograd le fait pour toi, et à la fin de ce module, tu en auras écrit un.

Les premières lignes importent le moteur fini que tu vas construire (il est gardé hors de vue, pour que les prochaines leçons restent à toi de résoudre). Regarde les dix lignes après les données : elles construisent un réseau et l'entraînent sur des chiffres, et nulle part elles ne mentionnent une formule de gradient. loss.backward() les calcule toutes.

Prédis d'abord la courbe : devine la perte d'entraînement moyenne après l'époque 1 et après l'époque 10.

Autograd : la différentiation automatique. Tu n'écris que le calcul vers l'avant ; le moteur l'enregistre et calcule chaque gradient en exécutant la règle de dérivation en chaîne à rebours.

Mots et symboles de cette leçon
autograd
des gradients automatiques : tu écris la passe avant, le moteur fait la passe arrière
Tensor
ici : un tableau plus son gradient plus les Tensors dont il vient
zero_grad
remettre les gradients à zéro avant l'étape suivante, parce que la passe arrière y ajoute
À ton tour

Remplis my_guess, puis exécute. Lis les dix lignes d'entraînement et remarque ce qui manque.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.