Lehrplan Lektion 24 von 246 · Modul 2: Mathematik und Wahrscheinlichkeit, nur wenn nötig
Modul 2: Mathematik und Wahrscheinlichkeit, nur wenn nötig

Matrix-Multiplikation: eine ganze Schicht auf einmal

Warum das wichtig istEine Schicht besteht aus vielen Neuronen und ein Batch aus vielen Eingaben. Eine Matrixmultiplikation berechnet jedes Neuron auf jeder Eingabe in einer Zeile.

Stacke die inputs als Zeilen von X (shape: inputs by features). Stacke die weights jedes neurons als Spalte von W (shape: features by neurons). Dann hat X @ W eine Zeile pro input und eine Spalte pro neuron: Eintrag (i, j) ist das dot product von input i mit den weights von neuron j.

Kleine Zahlen

X = [[1, 2],      W = [[1, 0, -1],
     [3, 4]]           [0, 1,  1]]
X @ W = [[1, 2, 1],
         [3, 4, 1]]

Zeile 1, Spalte 3: 1 mal -1 plus 2 mal 1 ergibt 1. Die Formenkette: (2, 2) @ (2, 3) ergibt (2, 3). Die inneren Zahlen müssen übereinstimmen.

Matrix multiply: jede Zeile der linken mal jede Spalte der rechten als Skalarprodukte.

Zusammenfassung (batch, in) @ (in, out) = (batch, out). Diese eine Shape-Regel läuft durch den ganzen Kurs.

Wörter und Symbole in dieser Lektion
Skalarprodukt (a . b)
multipliziere passende Elemente und addiere sie auf; groß wenn die Vektoren übereinstimmen
Du bist dran

Schreibe layer(X, W, b), das X @ W + b zurückgibt, und layer_shape(batch, n_in, n_out), das die Ausgabegröße als Tupel zurückgibt, ohne Arrays zu erstellen.

Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion

Diese Übung öffnet bald

Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.