Tổng, trung bình, reshape và chuyển vị
Vì sao điều này quan trọng Một giá trị mất mát là một tổng hay một trung bình, và các lớp reshape và chuyển vị liên tục. Mỗi cái cần một quy tắc lượt ngược, và mỗi quy tắc chỉ là một dòng.
- sum (về một con số): mọi phần tử đóng góp với độ dốc 1, nên mỗi cái nhận gradient tới. Gradient: các số một theo shape của đầu vào, nhân out.grad.
- mean: một tổng nhân 1/size. Hãy dựng nó từ sum và phép nhân, để nó không cần quy tắc riêng.
- reshape: các giá trị chỉ được sắp xếp lại, nên reshape gradient trở về shape của đầu vào.
- transpose: chuyển vị gradient trở lại.
Tóm tắt Dời các con số đi đâu thì dời gradient trở lại theo cùng cách đó.
Từ và ký hiệu trong bài học này
- Tensor
- ở đây: một mảng cộng gradient của nó cộng các Tensor mà nó được tạo ra từ đó
- .grad
- gradient của giá trị mất mát cuối cùng theo Tensor này
- unbroadcast
- cộng một gradient trở lại xuống shape mà nó đã được kéo giãn từ đó
Viết sum, mean, reshape và property T cùng các quy tắc lượt ngược của chúng.
Bạn thấy vấn đề gì trong bài học này? Hãy báo cáo nó · Hỏi về bài học này
Bài tập này sẽ sớm mở.
Hoàn thành bài học trước đó để mở khóa bài này. Toàn bộ khóa học là miễn phí, không cần tài khoản, và bạn có thể đọc bài học này ngay bây giờ.
Trình duyệt này đang chặn cookie cho learn.floati.life, nên các bài học bạn đã hoàn thành tại đây không thể mở theo thứ tự. Hãy cho phép cookie cho trang web này và tải lại trang.