Chương trình học Bài 101 trên tổng số 250 · Trực giác về mạng nơ-ron, LLM và dự án cuối về AI
Trực giác về mạng nơ-ron, LLM và dự án cuối về AI

Mô hình học như thế nào

Một mạng mới có trọng số ngẫu nhiên và vô dụng. Huấn luyện là quá trình nhích các trọng số đó cho tới khi đầu ra trở nên tốt. Hai ý tưởng thúc đẩy nó.

1. Một hàm mất mát đo mức sai

Bạn cần một con số duy nhất cho biết các dự đoán tệ đến đâu. Với hồi quy, lựa chọn quen thuộc là sai số bình phương trung bình (MSE): lấy trung bình bình phương các khoảng cách giữa giá trị thật và dự đoán.

def mse(y_true, y_pred):
    diffs = np.asarray(y_true) - np.asarray(y_pred)
    return float(np.mean(diffs ** 2))

Bình phương phạt các lần lệch lớn nặng hơn và giữ mọi thứ dương. Mất mát thấp hơn là tốt hơn; mất mát bằng không nghĩa là khớp hoàn hảo.

2. Gradient descent lăn xuống dốc

Hãy hình dung mất mát như một bề mặt đồi núi và các trọng số là vị trí của bạn trên đó. Gradient là độ dốc: nó chỉ lên dốc, về phía mất mát nhiều hơn. Nên để giảm mất mát, bạn bước một bước nhỏ theo hướng ngược lại.

w = w - learning_rate * gradient

Tốc độ học (learning rate) là kích thước bước. Lặp lại việc này hàng nghìn lần và các trọng số lăn xuống một thung lũng có mất mát thấp. Vòng lặp đó là tất cả những gì huấn luyện là.

Với một mô hình đồ chơi y = w * x với MSE, gradient của mất mát theo w ra là mean(2 * (w*x - y) * x). Bạn sẽ bước đúng một bước và xem mất mát giảm.

Từ một trọng số tới cả một mạng

Mạng hai tầng bạn xây ở bài trước có nhiều trọng số, không phải một. Huấn luyện nó nghĩa là tìm gradient của mất mát theo mọi trọng số, từng tầng một. Đó là lan truyền ngược (backpropagation): bắt đầu từ mất mát và áp dụng quy tắc dây chuyền ngược qua mỗi tầng để có độ dốc của mọi trọng số, rồi bước cùng một bước xuống dốc trên tất cả chúng cùng lúc. Phép tính nặng hơn, nhưng ý tưởng giống hệt bước duy nhất bạn làm bên dưới. Trong mã thật bạn không bao giờ tự tay suy ra nó: các framework như PyTorch ghi lại lượt truyền xuôi và một lệnh gọi loss.backward() tính mọi gradient cho bạn. Ở đây ta làm phiên bản một trọng số để cơ chế luôn cụ thể.

Đến lượt bạn

Cài đặt mse(y_true, y_pred) (trung bình của bình phương các hiệu). Rồi, với mô hình đồ chơi y = w * x, tính loss_before, bước một bước gradient descent bằng grad = np.mean(2 * (w*x - y) * x) và w = w - lr * grad, rồi tính loss_after. Mất mát phải giảm.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.