Chương trình học Bài 103 trên tổng số 250 · Trực giác về mạng nơ-ron, LLM và dự án cuối về AI
Trực giác về mạng nơ-ron, LLM và dự án cuối về AI

Xem: Lan truyền ngược và quy tắc dây chuyền

Gradient descent cần một thứ: gradient của mất mát theo mọi đầu vào và trọng số. Lan truyền ngược là cách bạn có được nó, và nó chỉ là quy tắc dây chuyền áp dụng trên một đồ thị các phép toán.

Nhấn phát. Đẩy một giá trị đi xuôi qua một đồ thị tí hon (x -> nhân đôi -> bình phương -> L), rồi xem gradient chảy ngược, nhân với gradient cục bộ của mỗi bước. Một khi bạn thấy nó, engine autograd bạn xây tiếp theo không còn là phép màu.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.