املأ الفراغ (التنبؤ المقنع)
لماذا هذا مهم أبسط طريقة لإنشاء مهمة من بيانات غير مصنفة هي إخفاء جزء منها وطلب من الشبكة ملئه. يتم تدريب نماذج اللغة بهذه الطريقة بالضبط (إخفاء الكلمة التالية) بينما تخفي نماذج الصور أجزاء منها. لملء الفراغ بشكل جيد يجب على الشبكة فهم ما يحيط به.
أخفِ قطعة بحجم 4 x 4 في منتصف كل صورة. ترى الشبكة النافذة بحجم 8 x 8 حولها (الـ 48 بكسل الأخرى، x 3 ألوان) وتتنبأ بالـ 16 بكسل المخفية (x 3). الخسارة هي mean squared error. لا توجد تسميات في أي مكان: الصورة هي مفتاح الإجابة الخاص بها.
ملآن بسيطان للتغلب عليهما: متوسط لون الصورة (خطأ حوالي 0.035) ومتوسط البكسلات المحيطة بالثقب مباشرة (حوالي 0.019). الشبكة التي تتفوق على الثاني تعلمت شيئا عن كيفية استمرار الأشكال والضوء.
الكلمات والرموز في هذا الدرس
- التنبؤ المقنع
- إخفاء جزء من المدخلات وتدريب الشبكة لملئه
اكتب جسم حلقة التدريب (400 خطوة من 64 صورة). مررها مع خطأ تحقق أقل من 0.017.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.