البحث الهجين: Reciprocal Rank Fusion + Reranking
BM25 (sparse, lexical) و embedding cosine (dense, semantic) ما يفوته الآخر. يحدد BM25 المصطلحات الدقيقة والرموز النادرة، بينما يقتنص dense retrieval الصياغات المعاد كتابتها. تعمل أنظمة الإنتاج على both وتدمج النتائج. المشكلة هي أن درجاتها تقع على مقاييس مختلفة تماما، لذا لا يمكنك جمعها فقط. الحل القياسي هو الدمج بواسطة rank، وليس score.
Reciprocal Rank Fusion (RRF) يقوم بذلك بالضبط. يعطي كل retriever قائمة مرتبة من document ids. درجة العنصر المدمجة هي المجموع، عبر القوائم، لـ 1 / (k + rank)، حيث rank هو موقعه في تلك القائمة بدءا من الرقم 1 و k هو ثابت (60 هو القيمة الافتراضية الشائعة التي تقلل الفجوة بين الرتبتين 1 و 2):
score(item) = sum over lists of 1 / (k + rank_in_that_list)يجمع عنصر قريب من أعلى كلا القائمتين مساهمتين كبيرتين ويفوز. العنصر الذي وجده مسترجع واحد فقط يحصل على رصيد جزئي. ثم قم بالفرز حسب fused score تنازليا. لضمان التحديد عند تساوي عنصرين، قم بكسر التعادل بواسطة item id.
المرحلة الثانية هي reranking. عملية الاندماج رخيصة وتقريبية؛ حيث يقوم cross-encoder بقراءة الاستعلام والمرشح معاً ويقيم مدى صلتهم مباشرة، وهو أكثر دقة بكثير لكنه بطيء جداً للتشغيل على كامل المجموعة. لذا تقوم بالدمج للحصول على قائمة مرشحين قصيرة، ثم تعيد ترتيب تلك القائمة القليلة فقط باستخدام النموذج المكلف. لا يمكننا تشغيل cross-encoder حقيقي هنا (لا يوجد نموذج، لا يوجد GPU)، لذا يتم تزويدك بمخرجاته كـ score table يربط كل مرشح بدرجة صلته، وتقوم بإعادة الترتيب بناءً عليها.
للسياق، تبدو استدعاءات reranker الحقيقية بهذا الشكل (لا يتم استخدامها في التقييم):
# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])قم ببناء دالتين. rrf(rank_lists, k=60) تأخذ قائمة من قوائم المعرفات المصنفة وتعيد المعرفات المدمجة مرتبة حسب درجة RRF تنازلياً (مع كسر التعادل بواسطة id). rerank(candidates, score_table) تعيد المرشحين مرتبين مجدداً حسب درجتهم في score_table تنازلياً (مع كسر التعادل بواسطة id).
اكتب دالتين. تقوم rrf(rank_lists, k=60) بدمج عدة قوائم معرفات مصنفة: درجة كل عنصر هي مجموع قيم 1 / (k + rank) عبر القوائم (الترتيب هو الموقع القائم على الرقم 1)، وتعيد العناصر مرتبة حسب الدرجة المدمجة تنازلياً، مع كسر التعادل بواسطة معرف العنصر. تعيد rerank(candidates, score_table) القائمة candidates بعد إعادة ترتيبها حسب score_table[item] تنازلياً، مع كسر التعادل بواسطة المعرف. يجب أن يفوز العنصر المصنف عالياً في كلتا القائمتين المدخلتين في عملية الدمج؛ ويجب أن يؤدي دمج زوجين مختلفين من القوائم إلى ترتيبات مختلفة؛ ويجب أن تعيد rerank الترتيب حسب جدول الدرجات؛ ودمج قائمة واحدة يعيدها دون تغيير.
سيفتح هذا التمرين قريبا
أنهِ الدرس السابق ليفتح هذا الدرس. الدورة كاملة مجانية، ولا تحتاج إلى حساب، ويمكنك قراءة هذا الدرس الآن.
يقوم هذا المتصفح بحظر ملفات تعريف الارتباط لـ learn.floati.life، لذا لا يمكن فتح الدروس التي أنهيتها هنا بالترتيب. اسمح بملفات تعريف الارتباط لهذا الموقع وأعد التحميل.