المنهج الدراسي الدرس 49 من 246 · الوحدة 3: من Neuron إلى MLP
الوحدة 3: من Neuron إلى MLP

قارئ أرقام في NumPy بسيط

لماذا هذا مهم هذه شبكة عصبية حقيقية تقرأ خط يد حقيقي، مع كل سطر كتبته أنت. إنها الشبكة الأولى الكلاسيكية، التي بنيت بدون مكتبة.

البيانات هي 1,797 رقم مكتوب بخط اليد، كل رقم عبارة عن صورة بحجم 8 في 8 تم تحويلها إلى 64 رقماً (وهي نسخة صغيرة ومنخفضة الدقة من مجموعة MNIST الشهيرة بحجم 28 في 28، من مجموعة مختلفة). الشبكة هي نفسها التي في الدرس السابق: 64 inputs، وطبقة مخفية من 64 ReLU neurons، و10 outputs.

حلقة التدريب

  1. ابدأ بالأوزان صغيرة وعشوائية: rng.normal(0, 0.1, shape)، والتحيزات عند الصفر.
  2. في كل epoch، قم بخلط بيانات التدريب ومر عبرها في minibatches بحجم 32.
  3. لكل minibatch، قم بتشغيل forward_backward وقم بتحديث كل weight مقابل gradient الخاص به.

Minibatch: شريحة عشوائية صغيرة من البيانات تستخدم لخطوة واحدة. إنها أسرع بكثير من استخدام كل البيانات في كل خطوة، والضجيج يساعد حتى.

توقّع المنحنى: توقع قيمة training loss بعد epoch 1 وبعد epoch 20 في my_guess.

ملخص Shuffle، slice، forward، backward، step. Repeat.

الكلمات والرموز في هذا الدرس
neuron
w . x + b، ثم تفعيل
الأوزان (w, W)، الانحياز (b)
الأرقام التي يتعلمها العصبون؛ يغير الـ bias مخرجاته
ReLU
max(0, z): يحتفظ بالموجب، ويحول السالب إلى صفر
معدل التعلم (lr)
ما هو حجم كل خطوة تدريب
طبقة مخفية
a طبقة بين المدخلات والمخرجات تبني ميزات جديدة
دورك

باستخدام forward_backward الخاص بك، اكتب train(X, y, hidden, lr, epochs, seed) الذي يعيد قاموسا للأوزان، وpredict(params, X) الذي يعيد الرقم المتوقع لكل صف. املأ my_guess. يقيس الاختبار المخفي الدقة على 397 رقما لم تتدرب عليها أبدا: حقق 95% على الأقل. (lr 0.5، 20 epochs، 64 hidden تعمل.)

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.