Sommes, moyennes, reshapes et transpositions
Pourquoi c'est important Une perte est une somme ou une moyenne, et les couches font des reshapes et des transpositions tout le temps. Chacune a besoin d'une règle de passe arrière, et chaque règle tient en une ligne.
- sum (vers un seul nombre) : chaque élément a contribué avec une pente de 1, donc chacun reçoit le gradient qui arrive. Gradient : des uns de la forme de l'entrée, fois out.grad.
- mean : une somme fois 1/taille. Construis-la à partir de sum et de la multiplication, pour qu'elle n'ait pas besoin de règle à elle.
- reshape : les valeurs sont seulement réarrangées, donc remets le gradient à la forme de l'entrée.
- transpose : transpose le gradient en retour.
Récap Déplacer des nombres déplace le gradient en retour de la même façon.
Mots et symboles de cette leçon
- Tensor
- ici : un tableau plus son gradient plus les Tensors dont il vient
- .grad
- le gradient de la perte finale par rapport à ce Tensor
- unbroadcast
- sommer un gradient pour le ramener à la forme depuis laquelle il a été étiré
Écris sum, mean, reshape et la propriété T avec leurs règles de passe arrière.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.