Matrix-Multiplikation: eine ganze Schicht auf einmal
Warum das wichtig istEine Schicht besteht aus vielen Neuronen und ein Batch aus vielen Eingaben. Eine Matrixmultiplikation berechnet jedes Neuron auf jeder Eingabe in einer Zeile.
Stacke die inputs als Zeilen von X (shape: inputs by features). Stacke die weights jedes neurons als Spalte von W (shape: features by neurons). Dann hat X @ W eine Zeile pro input und eine Spalte pro neuron: Eintrag (i, j) ist das dot product von input i mit den weights von neuron j.
Kleine Zahlen
X = [[1, 2], W = [[1, 0, -1],
[3, 4]] [0, 1, 1]]
X @ W = [[1, 2, 1],
[3, 4, 1]]
Zeile 1, Spalte 3: 1 mal -1 plus 2 mal 1 ergibt 1. Die Formenkette: (2, 2) @ (2, 3) ergibt (2, 3). Die inneren Zahlen müssen übereinstimmen.
Matrix multiply: jede Zeile der linken mal jede Spalte der rechten als Skalarprodukte.
Zusammenfassung (batch, in) @ (in, out) = (batch, out). Diese eine Shape-Regel läuft durch den ganzen Kurs.
Wörter und Symbole in dieser Lektion
- Skalarprodukt (a . b)
- multipliziere passende Elemente und addiere sie auf; groß wenn die Vektoren übereinstimmen
Schreibe layer(X, W, b), das X @ W + b zurückgibt, und layer_shape(batch, n_in, n_out), das die Ausgabegröße als Tupel zurückgibt, ohne Arrays zu erstellen.
Ein Problem in dieser Lektion entdeckt? Melde es · Frage zu dieser Lektion
Diese Übung öffnet bald
Beende die vorherige Lektion, damit diese freigeschaltet wird. Der ganze Kurs ist kostenlos, kein Konto erforderlich, und du kannst diese Lektion jetzt direkt lesen.
Dieser Browser blockiert Cookies für learn.floati.life, daher können hier beendigte Lektionen nicht in der richtigen Reihenfolge geöffnet werden. Erlaube Cookies für diese Seite und lade sie neu.