Programme Leçon 53 sur 246 · Module 4 : Ton propre moteur d'autograd
Module 4 : Ton propre moteur d'autograd

Un Tensor : un tableau qui se souvient

Pourquoi c'est important Le seul type de données du moteur est un Tensor : un tableau plus une place pour son gradient plus une note de son origine.

Un Tensor contient trois choses :

  • data : le tableau NumPy des valeurs.
  • grad : un tableau de la même forme, qui commence à zéro, que la passe arrière remplira.
  • parents : les Tensors à partir desquels il a été calculé (vide pour les entrées et les poids).

Chaque opération crée un nouveau Tensor et note ses parents. Aujourd'hui, juste la partie vers l'avant de + et * : calculer les valeurs et se souvenir des parents.

Tensor : en apprentissage profond, simplement un tableau à n dimensions. Ici, un tableau qui porte aussi un gradient et son historique.

Mots et symboles de cette leçon
Tensor
ici : un tableau plus son gradient plus les Tensors dont il vient
.grad
le gradient de la perte finale par rapport à ce Tensor
unbroadcast
sommer un gradient pour le ramener à la forme depuis laquelle il a été étiré
À ton tour

Remplis __add__ et __mul__ pour qu'elles renvoient un nouveau Tensor dont data est la somme ou le produit, et dont parents vaut (self, other). Les simples nombres doivent marcher aussi, via Tensor.lift. Laisse _backward tranquille pour l'instant.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.