Silabus Pelajaran 24 dari 246 · Modul 2: Matematika dan probabilitas, hanya jika dibutuhkan
Modul 2: Matematika dan probabilitas, hanya jika dibutuhkan

Perkalian matriks: satu lapisan sekaligus

Kenapa ini penting Sebuah layer adalah banyak neuron, dan sebuah batch adalah banyak input. Satu perkalian matriks menghitung setiap neuron pada setiap input dalam satu baris.

Tumpuk input sebagai baris dari X (shape: inputs by features). Tumpuk bobot setiap neuron sebagai kolom dari W (shape: features by neurons). Kemudian X @ W punya satu baris per input dan satu kolom per neuron: entri (i, j) adalah dot product dari input i dengan bobot neuron j.

Angka kecil

X = [[1, 2],      W = [[1, 0, -1],
     [3, 4]]           [0, 1,  1]]
X @ W = [[1, 2, 1],
         [3, 4, 1]]

Baris 1, kolom 3: 1 kali -1 ditambah 2 kali 1 sama dengan 1. Rantai bentuk: (2, 2) @ (2, 3) menghasilkan (2, 3). Angka di dalam harus cocok.

Matrix multiply: setiap baris kiri dikali setiap kolom kanan, sebagai dot products.

Ringkasan (batch, in) @ (in, out) = (batch, out). Aturan bentuk itu berlaku untuk seluruh kursus.

Kata dan simbol di pelajaran ini
perkalian titik (a . b)
kalikan item yang cocok dan jumlahkan; besar saat vektornya sama
Giliranku

Tulis layer(X, W, b) yang mengembalikan X @ W + b, dan layer_shape(batch, n_in, n_out) yang mengembalikan shape output sebagai tuple tanpa membangun array apa pun.

Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini

Latihan ini akan segera dibuka

Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.