تسجيل الرسم البياني وترتيبه
لماذا هذا مهم يجب على Backward زيارة كل صندوق فقط بعد كل صندوق يعتمد عليه. الحصول على هذا الترتيب بشكل خاطئ يعطي تدرجات خاطئة بصمت.
شاهده
تم استخدامPicture x مرتين: a = x * 2، b = x * 3، L = a + b. هذا شكل معين. عند العودة من L، يجب أن ننتهي من كل من a و b قبل التعامل مع x، لأن gradient الخاص بـ x هو مجموع ما يعود من كليهما.
الحل هو إدراج العقد في ترتيب طوبولوجي: كل عقدة بعد جميع آبائها. ثم يتم المشي في تلك القائمة بشكل عكسي. بحث العمق أولا ينشئ القائمة: قم بزيارة آباء العقدة أولا، ثم أضف العقدة، وتخطى العقد التي تمت رؤيتها بالفعل.
الترتيب الطوبولوجي: ترتيب للرسم البياني حيث يأتي كل عقدة بعد العقد التي تعتمد عليها.
الكلمات والرموز في هذا الدرس
- Tensor
- here: مصفوفة بالإضافة إلى تدرجها بالإضافة إلى الـ Tensors التي أتت منها
- topological order
- كل عقدة مدرجة بعد العقد التي تعتمد عليها
- .grad
- تدرج الخسارة النهائية بالنسبة لهذا الـ Tensor
- unbroadcast
- إعادة تجميع التدرج إلى الشكل الذي تم شده منه
اكتب طريقة topo: أرجع كل عقدة self تعتمد عليها (بما في ذلك نفسها)، كل واحدة بعد جميع آبائها، بدون تكرار.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.