المنهج الدراسي الدرس 54 من 246 · الوحدة 4: محرك autograd الخاص بك
الوحدة 4: محرك autograd الخاص بك

تسجيل الرسم البياني وترتيبه

لماذا هذا مهم يجب على Backward زيارة كل صندوق فقط بعد كل صندوق يعتمد عليه. الحصول على هذا الترتيب بشكل خاطئ يعطي تدرجات خاطئة بصمت.

شاهده

تم استخدام

Picture x مرتين: a = x * 2، b = x * 3، L = a + b. هذا شكل معين. عند العودة من L، يجب أن ننتهي من كل من a و b قبل التعامل مع x، لأن gradient الخاص بـ x هو مجموع ما يعود من كليهما.

الحل هو إدراج العقد في ترتيب طوبولوجي: كل عقدة بعد جميع آبائها. ثم يتم المشي في تلك القائمة بشكل عكسي. بحث العمق أولا ينشئ القائمة: قم بزيارة آباء العقدة أولا، ثم أضف العقدة، وتخطى العقد التي تمت رؤيتها بالفعل.

الترتيب الطوبولوجي: ترتيب للرسم البياني حيث يأتي كل عقدة بعد العقد التي تعتمد عليها.

الكلمات والرموز في هذا الدرس
Tensor
here: مصفوفة بالإضافة إلى تدرجها بالإضافة إلى الـ Tensors التي أتت منها
topological order
كل عقدة مدرجة بعد العقد التي تعتمد عليها
.grad
تدرج الخسارة النهائية بالنسبة لهذا الـ Tensor
unbroadcast
إعادة تجميع التدرج إلى الشكل الذي تم شده منه
دورك

اكتب طريقة topo: أرجع كل عقدة self تعتمد عليها (بما في ذلك نفسها)، كل واحدة بعد جميع آبائها، بدون تكرار.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.