Программа курса Урок 24 из 246 · Модуль 2: Математика и вероятность, только по необходимости
Модуль 2: Математика и вероятность, только по необходимости

Умножение матриц: целый слой сразу

Почему это важно Слой - это много нейронов, а батч - много входов. Одно умножение матриц вычисляет каждый нейрон на каждом входе одной строкой.

Сложите входы строками X (форма: входы на признаки). Сложите веса каждого нейрона столбцом W (форма: признаки на нейроны). Тогда у X @ W одна строка на вход и один столбец на нейрон: элемент (i, j) - скалярное произведение входа i на веса нейрона j.

Маленькие числа

X = [[1, 2],      W = [[1, 0, -1],
     [3, 4]]           [0, 1,  1]]
X @ W = [[1, 2, 1],
         [3, 4, 1]]

Строка 1, столбец 3: 1 × -1 плюс 2 × 1 равно 1. Формы сцепляются: (2, 2) @ (2, 3) даёт (2, 3). Внутренние числа должны совпадать.

Умножение матриц: каждая строка левой на каждый столбец правой, как скалярные произведения.

Итоги (batch, in) @ (in, out) = (batch, out). Это одно правило форм управляет всем курсом.

Слова и символы этого урока
скалярное произведение (a . b)
перемножить соответствующие элементы и сложить; большое, когда векторы согласны
Твоя очередь

Напишите layer(X, W, b), возвращающую X @ W + b, и layer_shape(batch, n_in, n_out), возвращающую форму выхода кортежем, не строя никаких массивов.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.