Chương trình học Bài 24 trên tổng số 246 · Mô-đun 2: Toán và xác suất, chỉ ở mức cần thiết
Mô-đun 2: Toán và xác suất, chỉ ở mức cần thiết

Phép nhân ma trận: cả một lớp cùng lúc

Vì sao điều này quan trọng Một lớp là nhiều nơ-ron, và một batch là nhiều đầu vào. Một phép nhân ma trận tính mọi nơ-ron trên mọi đầu vào trong một dòng.

Xếp các đầu vào thành các hàng của X (shape: số đầu vào x số đặc trưng). Xếp trọng số của mỗi nơ-ron thành một cột của W (shape: số đặc trưng x số nơ-ron). Khi đó X @ W có một hàng cho mỗi đầu vào và một cột cho mỗi nơ-ron: phần tử (i, j) là tích vô hướng của đầu vào i với các trọng số của nơ-ron j.

Những con số nhỏ xíu

X = [[1, 2],      W = [[1, 0, -1],
     [3, 4]]           [0, 1,  1]]
X @ W = [[1, 2, 1],
         [3, 4, 1]]

Hàng 1, cột 3: 1 nhân -1 cộng 2 nhân 1 bằng 1. Các shape nối tiếp: (2, 2) @ (2, 3) cho (2, 3). Các con số ở giữa phải khớp nhau.

Phép nhân ma trận: mọi hàng của bên trái nhân mọi cột của bên phải, dưới dạng các tích vô hướng.

Tóm tắt (batch, in) @ (in, out) = (batch, out). Một quy tắc shape đó điều khiển cả khóa học.

Từ và ký hiệu trong bài học này
tích vô hướng (a . b)
nhân các phần tử tương ứng rồi cộng lại; lớn khi các vector đồng thuận
Đến lượt bạn

Viết layer(X, W, b) trả về X @ W + b, và layer_shape(batch, n_in, n_out) trả về shape đầu ra dưới dạng một tuple mà không dựng mảng nào.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.