التسلسلات والحالة
لماذا هذا مهم تصل النصوص، والكلام، والأسعار، وقراءات المستشعرات خطوة تلو الأخرى، وما حدث سابقاً يغير ما سيأتي لاحقاً. تقوم الشبكة المتكررة بنقل ملخص مستمر للأمام.
بـ حالة مخفية h، وهي متجه قصير. في كل خطوة، تقوم بخلط المدخل الجديد مع الحالة القديمة وضغط النتيجة:
h = tanh(x_t @ Wx + h @ Wh + b)
تُستخدم نفس الأوزان في كل خطوة، تماماً كما تعيد شبكة CNN استخدام مرشحها في كل موضع. تعتمد h النهائية على كل ما قرأته الشبكة، لذا فهي ذاكرة (فانية) للتسلسل بأكمله.
أرقام صغيرة
رقم إدخال واحد، رقم مخفي واحد، Wx = 1، Wh = 0.5، b = 0، تبدأ h من 0. قراءة 1 ثم 0: h = tanh(1) = 0.76، ثم h = tanh(0 + 0.38) = 0.36. لا يزال رقم الإدخال الأول يظهر في الحالة بعد الخطوة الثانية، وهو يتلاشى.
الحالة المخفية : المتجه الذي تحمله RNN من خطوة إلى أخرى. المتكررة : تغذية مخرجاتها الخاصة مرة أخرى كمدخلات.
الكلمات والرموز في هذا الدرس
- شبكة متكررة (RNN)
- شبكة تقرأ خطوة واحدة في كل مرة وتحمل حالة مخفية للأمام
اكتب rnn_forward(xs, Wx, Wh, b): xs لديه شكل (steps, input size)؛ ابدأ من حالة صفرية وأرجع قائمة الحالات المخفية بعد كل خطوة.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.