Умножение матриц: целый слой сразу
Почему это важно Слой - это много нейронов, а батч - много входов. Одно умножение матриц вычисляет каждый нейрон на каждом входе одной строкой.
Сложите входы строками X (форма: входы на признаки). Сложите веса каждого нейрона столбцом W (форма: признаки на нейроны). Тогда у X @ W одна строка на вход и один столбец на нейрон: элемент (i, j) - скалярное произведение входа i на веса нейрона j.
Маленькие числа
X = [[1, 2], W = [[1, 0, -1],
[3, 4]] [0, 1, 1]]
X @ W = [[1, 2, 1],
[3, 4, 1]]
Строка 1, столбец 3: 1 × -1 плюс 2 × 1 равно 1. Формы сцепляются: (2, 2) @ (2, 3) даёт (2, 3). Внутренние числа должны совпадать.
Умножение матриц: каждая строка левой на каждый столбец правой, как скалярные произведения.
Итоги (batch, in) @ (in, out) = (batch, out). Это одно правило форм управляет всем курсом.
Слова и символы этого урока
- скалярное произведение (a . b)
- перемножить соответствующие элементы и сложить; большое, когда векторы согласны
Напишите layer(X, W, b), возвращающую X @ W + b, и layer_shape(batch, n_in, n_out), возвращающую форму выхода кортежем, не строя никаких массивов.
Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке
Это упражнение откроется скоро
Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.
Этот браузер блокирует cookies для learn.floati.life, поэтому завершенные здесь уроки не могут открыться по порядку. Разрешите cookies для этого сайта и перезагрузите страницу.