Programme Leçon 24 sur 246 · Module 2 : Maths et probabilités, juste ce qu'il faut
Module 2 : Maths et probabilités, juste ce qu'il faut

Produit matriciel : toute une couche d'un coup

Pourquoi c'est important Une couche, ce sont beaucoup de neurones, et un lot, ce sont beaucoup d'entrées. Un seul produit matriciel calcule chaque neurone sur chaque entrée en une ligne.

Empile les entrées comme lignes de X (forme : entrées par caractéristiques). Empile les poids de chaque neurone comme colonne de W (forme : caractéristiques par neurones). Alors X @ W a une ligne par entrée et une colonne par neurone : l'élément (i, j) est le produit scalaire de l'entrée i avec les poids du neurone j.

De tout petits nombres

X = [[1, 2],      W = [[1, 0, -1],
     [3, 4]]           [0, 1,  1]]
X @ W = [[1, 2, 1],
         [3, 4, 1]]

Ligne 1, colonne 3 : 1 fois -1 plus 2 fois 1 égale 1. Les formes s'enchaînent : (2, 2) @ (2, 3) donne (2, 3). Les nombres intérieurs doivent correspondre.

Produit matriciel : chaque ligne de gauche fois chaque colonne de droite, sous forme de produits scalaires.

Récap (lot, entrée) @ (entrée, sortie) = (lot, sortie). Cette seule règle de forme fait tourner tout le cours.

Mots et symboles de cette leçon
produit scalaire (a . b)
multiplie les éléments correspondants et additionne-les ; grand quand les vecteurs s'accordent
À ton tour

Écris layer(X, W, b) qui renvoie X @ W + b, et layer_shape(batch, n_in, n_out) qui renvoie la forme de sortie sous forme de tuple sans construire aucun tableau.

Tu as repéré un problème dans cette leçon ? Signale-le · Pose une question sur cette leçon

Cet exercice s'ouvre bientôt

Termine la leçon précédente pour débloquer celle-ci. Tout le cours est gratuit, aucun compte n'est requis, et tu peux lire cette leçon dès maintenant.