पाठ्यक्रम 246 में से पाठ 58 · Module 4: आपका अपना autograd engine
Module 4: आपका अपना autograd engine

Sums, means, reshapes और transposes

यह क्यों मायने रखता है एक loss एक जोड़ या औसत है, और layers हर समय reshape और transpose करती हैं। हर एक को एक backward नियम चाहिए, और हर नियम एक line का है।

  • sum (एक संख्या तक): हर प्रविष्टि ने ढलान 1 से योगदान दिया, इसलिए हर एक को आता gradient मिलता है। Gradient: input के आकार के ones, गुणा out.grad।
  • mean: एक जोड़ गुणा 1/size। इसे sum और multiply से बनाएँ, ताकि इसे अपना कोई नियम न चाहिए।
  • reshape: मान बस फिर से जमाए जाते हैं, इसलिए gradient को वापस input के आकार में reshape करें।
  • transpose: gradient को वापस transpose करें।

सार संख्याओं को इधर-उधर करना gradient को उसी तरह वापस करता है।

इस पाठ के शब्द और चिह्न
Tensor
यहाँ: एक array, उसका gradient, और वे Tensors जिनसे वह आया
.grad
इस Tensor के सापेक्ष अंतिम loss का gradient
unbroadcast
एक gradient को वापस उस आकार तक जोड़ना जिससे वह खींचा गया था
आपकी बारी

उनके backward नियमों के साथ sum, mean, reshape और T property लिखें।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।