قارئ أرقام في NumPy بسيط
لماذا هذا مهم هذه شبكة عصبية حقيقية تقرأ خط يد حقيقي، مع كل سطر كتبته أنت. إنها الشبكة الأولى الكلاسيكية، التي بنيت بدون مكتبة.
البيانات هي 1,797 رقم مكتوب بخط اليد، كل رقم عبارة عن صورة بحجم 8 في 8 تم تحويلها إلى 64 رقماً (وهي نسخة صغيرة ومنخفضة الدقة من مجموعة MNIST الشهيرة بحجم 28 في 28، من مجموعة مختلفة). الشبكة هي نفسها التي في الدرس السابق: 64 inputs، وطبقة مخفية من 64 ReLU neurons، و10 outputs.
حلقة التدريب
- ابدأ بالأوزان صغيرة وعشوائية:
rng.normal(0, 0.1, shape)، والتحيزات عند الصفر. - في كل epoch، قم بخلط بيانات التدريب ومر عبرها في minibatches بحجم 32.
- لكل minibatch، قم بتشغيل
forward_backwardوقم بتحديث كل weight مقابل gradient الخاص به.
Minibatch: شريحة عشوائية صغيرة من البيانات تستخدم لخطوة واحدة. إنها أسرع بكثير من استخدام كل البيانات في كل خطوة، والضجيج يساعد حتى.
توقّع المنحنى: توقع قيمة training loss بعد epoch 1 وبعد epoch 20 في my_guess.
ملخص Shuffle، slice، forward، backward، step. Repeat.
الكلمات والرموز في هذا الدرس
- neuron
- w . x + b، ثم تفعيل
- الأوزان (w, W)، الانحياز (b)
- الأرقام التي يتعلمها العصبون؛ يغير الـ bias مخرجاته
- ReLU
- max(0, z): يحتفظ بالموجب، ويحول السالب إلى صفر
- معدل التعلم (lr)
- ما هو حجم كل خطوة تدريب
- طبقة مخفية
- a طبقة بين المدخلات والمخرجات تبني ميزات جديدة
باستخدام forward_backward الخاص بك، اكتب train(X, y, hidden, lr, epochs, seed) الذي يعيد قاموسا للأوزان، وpredict(params, X) الذي يعيد الرقم المتوقع لكل صف. املأ my_guess. يقيس الاختبار المخفي الدقة على 397 رقما لم تتدرب عليها أبدا: حقق 95% على الأقل. (lr 0.5، 20 epochs، 64 hidden تعمل.)
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.