Chương trình học Bài 53 trên tổng số 246 · Mô-đun 4: Bộ máy autograd của riêng bạn
Mô-đun 4: Bộ máy autograd của riêng bạn

Một Tensor: một mảng biết ghi nhớ

Vì sao điều này quan trọng Kiểu dữ liệu duy nhất của bộ máy là một Tensor: một mảng cộng một chỗ cho gradient của nó cộng một ghi chú về nơi nó đến từ.

Một Tensor giữ ba thứ:

  • data: mảng NumPy các giá trị.
  • grad: một mảng cùng shape, bắt đầu bằng các số không, mà lượt ngược sẽ điền vào.
  • parents: các Tensor mà nó được tính từ đó (rỗng với đầu vào và trọng số).

Mỗi phép toán tạo một Tensor mới và ghi lại cha mẹ của nó. Hôm nay, chỉ phần xuôi của + và *: tính các giá trị và ghi nhớ cha mẹ.

Tensor: trong học sâu, đơn giản là một mảng n chiều. Ở đây, một mảng còn mang theo một gradient và lịch sử của nó.

Từ và ký hiệu trong bài học này
Tensor
ở đây: một mảng cộng gradient của nó cộng các Tensor mà nó được tạo ra từ đó
.grad
gradient của giá trị mất mát cuối cùng theo Tensor này
unbroadcast
cộng một gradient trở lại xuống shape mà nó đã được kéo giãn từ đó
Đến lượt bạn

Điền __add__ và __mul__ để chúng trả về một Tensor mới có data là tổng hay tích, và có parents là (self, other). Các con số thường cũng phải hoạt động, qua Tensor.lift. Tạm thời để nguyên _backward.

Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này

Bài tập này sẽ sớm mở.

Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.