Perkalian matriks: satu lapisan sekaligus
Kenapa ini penting Sebuah layer adalah banyak neuron, dan sebuah batch adalah banyak input. Satu perkalian matriks menghitung setiap neuron pada setiap input dalam satu baris.
Tumpuk input sebagai baris dari X (shape: inputs by features). Tumpuk bobot setiap neuron sebagai kolom dari W (shape: features by neurons). Kemudian X @ W punya satu baris per input dan satu kolom per neuron: entri (i, j) adalah dot product dari input i dengan bobot neuron j.
Angka kecil
X = [[1, 2], W = [[1, 0, -1],
[3, 4]] [0, 1, 1]]
X @ W = [[1, 2, 1],
[3, 4, 1]]
Baris 1, kolom 3: 1 kali -1 ditambah 2 kali 1 sama dengan 1. Rantai bentuk: (2, 2) @ (2, 3) menghasilkan (2, 3). Angka di dalam harus cocok.
Matrix multiply: setiap baris kiri dikali setiap kolom kanan, sebagai dot products.
Ringkasan (batch, in) @ (in, out) = (batch, out). Aturan bentuk itu berlaku untuk seluruh kursus.
Kata dan simbol di pelajaran ini
- perkalian titik (a . b)
- kalikan item yang cocok dan jumlahkan; besar saat vektornya sama
Tulis layer(X, W, b) yang mengembalikan X @ W + b, dan layer_shape(batch, n_in, n_out) yang mengembalikan shape output sebagai tuple tanpa membangun array apa pun.
Ada masalah di pelajaran ini? Laporkan · Tanya tentang pelajaran ini
Latihan ini akan segera dibuka
Selesaikan pelajaran sebelumnya agar pelajaran ini terbuka. Seluruh kursus ini gratis, tidak butuh akun, dan kamu bisa baca pelajaran ini sekarang.
Browser ini memblokir cookie untuk learn.floati.life, jadi pelajaran yang sudah kamu selesaikan di sini tidak bisa dibuka berurutan. Izinkan cookie untuk situs ini dan muat ulang.