Produit matriciel : toute une couche d'un coup
Pourquoi c'est important Une couche, ce sont beaucoup de neurones, et un lot, ce sont beaucoup d'entrées. Un seul produit matriciel calcule chaque neurone sur chaque entrée en une ligne.
Empile les entrées comme lignes de X (forme : entrées par caractéristiques). Empile les poids de chaque neurone comme colonne de W (forme : caractéristiques par neurones). Alors X @ W a une ligne par entrée et une colonne par neurone : l'élément (i, j) est le produit scalaire de l'entrée i avec les poids du neurone j.
De tout petits nombres
X = [[1, 2], W = [[1, 0, -1],
[3, 4]] [0, 1, 1]]
X @ W = [[1, 2, 1],
[3, 4, 1]]
Ligne 1, colonne 3 : 1 fois -1 plus 2 fois 1 égale 1. Les formes s'enchaînent : (2, 2) @ (2, 3) donne (2, 3). Les nombres intérieurs doivent correspondre.
Produit matriciel : chaque ligne de gauche fois chaque colonne de droite, sous forme de produits scalaires.
Récap (lot, entrée) @ (entrée, sortie) = (lot, sortie). Cette seule règle de forme fait tourner tout le cours.
Mots et symboles de cette leçon
- produit scalaire (a . b)
- multiplie les éléments correspondants et additionne-les ; grand quand les vecteurs s'accordent
Écris layer(X, W, b) qui renvoie X @ W + b, et layer_shape(batch, n_in, n_out) qui renvoie la forme de sortie sous forme de tuple sans construire aucun tableau.
Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon
Cet exercice s'ouvre bientôt
Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.
Ce navigateur bloque les cookies pour learn.floati.life, donc les leçons que tu as terminées ici ne peuvent pas s'ouvrir dans l'ordre. Autorise les cookies pour ce site et recharge la page.