पाठ्यक्रम 246 में से पाठ 60 · Module 4: आपका अपना autograd engine
Module 4: आपका अपना autograd engine

checker को अपने engine की ओर मोड़ें

यह क्यों मायने रखता है एक ग़लत नियम वाला engine train होगा, धीरे और बुरी तरह, और आपको शायद कभी पता न चले। अब से, हर नया operation इस्तेमाल से पहले जाँचा जाता है।

आपके Module 3 checker ने NumPy arrays धकेले। यहाँ, एक Tensor के data को उसी जगह धकेलें, गणना फिर बनाएँ, और उससे तुलना करें जो backward ने .grad में छोड़ा।

नुस्खा: (1) output बनाएँ और engine के gradients पाने के लिए एक बार backward() बुलाएँ। (2) हर input और हर प्रविष्टि के लिए, data को ऊपर और नीचे धकेलें, फिर बनाएँ, और output का मान पढ़ें। (3) सबसे बड़ी सापेक्ष त्रुटि बताएँ।

सार एक नए backward नियम पर तब तक भरोसा न करें जब तक वह एक जाँच पास न कर ले।

इस पाठ के शब्द और चिह्न
Tensor
यहाँ: एक array, उसका gradient, और वे Tensors जिनसे वह आया
.grad
इस Tensor के सापेक्ष अंतिम loss का gradient
unbroadcast
एक gradient को वापस उस आकार तक जोड़ना जिससे वह खींचा गया था
आपकी बारी

engine_check(build, inputs) लिखें: build() सूची inputs के Tensors से निकाला एक scalar Tensor लौटाता है। engine के gradients और धकेले वालों के बीच सबसे बड़ी सापेक्ष त्रुटि लौटाएँ। backward बुलाने से पहले हर input का grad शून्यों पर reset करें। छिपा test engine में तीन bugs लगाता है, एक बार में एक; आपके checker को हर एक के लिए 1e-3 से ऊपर, और सही engine के लिए 1e-6 से नीचे बताना होगा।

इस पाठ में कोई समस्या दिखी? बताएँ · इस पाठ के बारे में पूछें

यह अभ्यास जल्द खुलेगा

इससे पहले वाला पाठ पूरा करें और यह खुल जाएगा। पूरा कोर्स मुफ़्त है, कोई खाता नहीं चाहिए, और आप यह पाठ अभी पढ़ सकते हैं।