Chương trình học Bài 43 trên tổng số 246 · Mô-đun 3: Từ nơ-ron tới MLP
Mô-đun 3: Từ nơ-ron tới MLP

Một lớp ẩn giải được XOR

Vì sao điều này quan trọng Đây là khoảnh khắc độ sâu chứng tỏ giá trị của nó: hai nơ-ron ở một lớp giữa bẻ cong không gian để một đường thẳng có thể hoàn thành công việc.

Xem nó

Hãy chạy hoạt ảnh. Hai nơ-ron ẩn mỗi cái vẽ đường thẳng riêng. Nơ-ron 1 kích hoạt khi "ít nhất một đầu vào là 1" (một phép OR). Nơ-ron 2 kích hoạt khi "cả hai là 1" (một phép AND). Theo hai đặc trưng mới đó, XOR chỉ là "OR nhưng không AND": nơ-ron đầu ra tính h1 trừ h2.

Những con số nhỏ xíu

Dùng một hàm kích hoạt bậc thang (1 nếu tổng trên 0, nếu không thì 0). h1 = step(x1 + x2 - 0.5) là OR. h2 = step(x1 + x2 - 1.5) là AND. Đầu ra = step(h1 - h2 - 0.5). Kiểm tra (1,1): h1 = 1, h2 = 1, đầu ra step(-0.5) = 0. Đúng.

Lớp ẩn (hidden layer): một lớp giữa đầu vào và đầu ra mà các nơ-ron của nó dựng nên những đặc trưng mới mà lớp tiếp theo có thể dùng.

Tóm tắt Mỗi lớp mô tả lại dữ liệu để công việc của lớp tiếp theo dễ hơn.

Từ và ký hiệu trong bài học này
nơ-ron
w . x + b, rồi một hàm kích hoạt
trọng số (w, W), độ lệch (b)
các con số mà một nơ-ron học; độ lệch dời đầu ra của nó
lớp ẩn
một lớp giữa đầu vào và đầu ra dựng nên các đặc trưng mới
Đến lượt bạn

Đặt các trọng số W1 (2 x 2), b1 (2), w2 (2) và b2 của một mạng hai lớp có hàm kích hoạt bậc thang để forward(X) làm đúng cả bốn điểm XOR. Dùng các con số của riêng bạn hoặc những con số ở trên.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.