Chương trình học Bài 51 trên tổng số 246 · Mô-đun 4: Bộ máy autograd của riêng bạn
Mô-đun 4: Bộ máy autograd của riêng bạn

Mở đầu: mười dòng huấn luyện một bộ đọc chữ số

Vì sao điều này quan trọng Ở Mô-đun 3 bạn đã tự tay viết mọi gradient. Các mạng thật có hàng chục loại lớp; không ai tự tay suy ra chúng mỗi lần. Một bộ máy autograd làm điều đó giùm bạn, và tới cuối mô-đun này bạn sẽ đã viết được một cái.

Những dòng đầu tiên nhập bộ máy hoàn chỉnh mà bạn sắp dựng (nó được giấu đi, để các bài học sắp tới vẫn là của bạn để giải). Hãy nhìn mười dòng sau phần dữ liệu: chúng dựng một mạng, và huấn luyện nó trên các chữ số, và không chỗ nào nhắc tới một công thức gradient. loss.backward() tính ra tất cả.

Đoán đường cong trước: hãy đoán giá trị mất mát huấn luyện trung bình sau epoch 1 và sau epoch 10.

Autograd: vi phân tự động. Bạn chỉ viết phép tính xuôi; bộ máy ghi lại nó và tính mọi gradient bằng cách chạy quy tắc dây chuyền ngược lại.

Từ và ký hiệu trong bài học này
autograd
gradient tự động: bạn viết lượt xuôi, bộ máy làm lượt ngược
Tensor
ở đây: một mảng cộng gradient của nó cộng các Tensor mà nó được tạo ra từ đó
zero_grad
đặt lại các gradient trước bước tiếp theo, vì lượt ngược cộng dồn vào chúng
Đến lượt bạn

Điền my_guess, rồi chạy. Đọc mười dòng huấn luyện và để ý xem cái gì bị thiếu.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.