المنهج الدراسي الدرس 45 من 246 · الوحدة 3: من Neuron إلى MLP
الوحدة 3: من Neuron إلى MLP

أي منحنى من bumps (universal approximation)

لماذا هذا مهم يقول الناس إن الشبكة ذات الطبقة المخفية الواحدة يمكنها ملاءمة أي منحنى. هنا سترى السبب، من خلال بنائها بنفسك من النتوءات.

شاهد ذلك

دالة sigmoid شديدة الانحدار

هي خطوة: 0 على اليسار، و1 على اليمين. خطوتان، واحدة للأعلى عند left وواحدة للأسفل عند right، تشكلان بروزا: height * (sigmoid(s (x - left)) - sigmoid(s (x - right))). هذا يعني عصبونين مخفيين ووزن إخراج واحد. ضع البروزات جنبا إلى جنب، بحيث يكون كل منها بطول المنحنى في مكانه، وستقوم بتتبع أي منحنى، مثل المخطط الشريطي. المزيد من الأعصاب، أشرطة أرفع، ملاءمة أدق.

التقريب العام: طبقة خفية واحدة مع عدد كافٍ من الخلايا العصبية يمكنها الاقتراب قدر ما تريد من أي منحنى معقول. هذا لا يقول شيئا عن مدى سهولة العثور على تلك الأوزان عن طريق التدريب.

ملخصخريطتان عصبيتان تشكلان بروزا؛ بروزات كافية تشكل أي شيء.

الكلمات والرموز في هذا الدرس
neuron
w . x + b، ثم تفعيل
الأوزان (w, W)، الانحياز (b)
الأرقام التي يتعلمها العصبون؛ يغير الـ bias مخرجاته
sigmoid
1 / (1 + exp(-z)): يضغط أي رقم إلى ما بين 0 و 1
طبقة مخفية
a طبقة بين المدخلات والمخرجات تبني ميزات جديدة
دورك

اكتب bump(x, left, right, height, s=60)، ثم approx(x, f, n_bumps) الذي يقسم النطاق من 0 إلى pi إلى n_bumps قطع متساوية ويضيف نتوءا واحدا لكل قطعة، بحيث يكون لكل نتوء ارتفاع f في منتصف قطعته. مع 10 نتوءات (20 neurons)، يجب أن يكون متوسط مربع الخطأ مقابل sin على النطاق من 0 إلى pi أقل من 0.01.

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.