المنهج الدراسي الدرس 137 من 246 · الوحدة 12: الكلمات كأرقام (embeddings)
الوحدة 12: الكلمات كأرقام (embeddings)

المعنى الذي تحتفظ به الشركة للكلمة

لماذا هذا مهم "ستعرف الكلمة من خلال الكلمات التي ترافقها." قم بعد الكلمات التي تظهر بالقرب من كلمات أخرى، وهذه الأعداد وحدها تضع king بالقرب من queen وتسمح لك بإجراء عمليات حسابية مثل king minus man plus woman.

لاختبار هذا بصدق نحتاج لمعرفة الإجابات الصحيحة، لذا يستخدم هذا الدرس عالما صغيرا مخترعاببنية محددة: كل شخص هو ملكي أو عامي، هو أو هي، بالغ أو شاب، وكل واحد من هؤلاء يظهر ككلمات أخرى في نفس الجملة ("الملكة تحكم في القصر وهي تقرأ"). النص الحقيقي أكثر فوضى بكثير، لكن الآلية هي نفسها.

من التكرارات إلى المتجهات

Count، لكل زوج من الكلمات، كم مرة تظهر ضمن window من كلمات تفصل بينهما. صف كل كلمة من العدادات هو متجهها. تقوم وظيفة مساعدة بتحويل العدادات الخام إلى "كم مرة أكثر من الصدفة" (PPMI)، حتى لا تهيمن كلمة "the" على كل شيء.

التناظرالرياضي a : b = c : ? يتمت الإجابة عليه بالكلمة الأقرب إلى b ناقص a زائد c. يوجد 72 سؤالا من هذا النوع في هذا العالم.

توقّع: مع نافذة من كلمتين، ومع نافذة تغطي جملة الـ 9 كلمات كاملة، ما هي النسبة التي ستكون صحيحة؟

الكلمات والرموز في هذا الدرس
window
كم عدد الكلمات التي تعتبر رفيقة للكلمة من كلا الجانبين
PPMI
كم مرة تظهر كلمتان معاً أكثر مما يفرضه الاحتمال، مع ضبط القيم السالبة على 0
دورك

اجعل my_guess يحتوي على توقعينك. اكتب cooccurrence(sents, win): مصفوفة من العدادات بحجم V بـ V، وأضف 1 إلى [word, other] لكل كلمة أخرى ضمن win من المواضع في نفس الجملة. ثم املأ acc للنوافذ 2 و 8 بـ score(ppmi(...)).

هل لاحظت مشكلة في هذا الدرس؟ أبلغ عنها · اسأل عن هذا الدرس

سيفتح هذا التمرين قريبا

أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.