سرفصل‌ها درس 149 از 250 · امبدینگ‌ها و جستجوی معنایی از صفر
امبدینگ‌ها و جستجوی معنایی از صفر

جستجوی ترکیبی: ادغام رتبه‌های متقابل + رتبه‌بندی مجدد

BM25 (پراکنده‌، واژگانی) و ضریب کسینوس تعبیه‌سازی (متراکم، معنایی) هر یک آنچه دیگری از دست می‌دهد را پوشش می‌دهند: BM25 اصطلاحات دقیق و کدهای نادر را به‌خوبی شناسایی می‌کند و بازیابی متراکم هم‌معنی‌ها را درمی‌یابد. سیستم‌های تولید هر دو را اجرا کرده و نتایج را ترکیب می‌کنند. مشکل اینجاست که امتیازهای آن‌ها در مقیاس‌های کاملاً متفاوتی قرار دارند، بنابراین نمی‌توان آن‌ها را به‌سادگی جمع کرد. راه‌حل استاندارد این است که به‌جای امتیاز، بر اساس رتبه ترکیب شوند.

تلفیق رتبه‌ای متقابل (RRF) دقیقاً همین کار را انجام می‌دهد. هر سامانه بازیابی یک فهرست مرتب‌شده از شناسه‌های اسناد را در اختیار شما قرار می‌دهد. امتیاز تلفیق‌شده یک آیتم، مجموع در سراسر فهرست‌ها، از 1 / (k + rank)، که در آن rank موقعیت آن در آن فهرست بر مبنای عدد ۱ است و k یک عدد ثابت است (۶۰ مقدار پیش‌فرض رایجی است که اختلاف بین رتبه‌های ۱ و ۲ را ملایم‌تر می‌کند):

score(item) = sum over lists of  1 / (k + rank_in_that_list)

یک آیتم که در بالای هر دو لیست قرار دارد، دو امتیاز بزرگ را جمع‌آوری کرده و برنده می‌شود. آیتمی که تنها یک بازیاب آن را پیدا کرده است، همچنان امتیاز جزئی دریافت می‌کند. سپس بر اساس امتیاز ادغام‌شده به ترتیب نزولی مرتب کنید. برای تعیین‌کنندگی زمانی که دو آیتم برابر می‌شوند، با استفاده از شناسه آیتم، تساوی را بشکنید.

مرحله دوم، رتبه‌بندی مجدد است. ادغام ارزان و تقریبی است؛ یک رمزگذار متقاطع (cross-encoder) پرس‌وجو و یک کاندیدا را با هم می‌خواند و ارتباطشان را مستقیماً امتیازدهی می‌کند، که بسیار دقیق‌تر است اما برای اجرا روی کل مجموعه داده‌ها (corpus) بسیار کند است. بنابراین شما ادغام می‌کنید تا یک لیست کوتاه از کاندیداها به دست آورید، سپس فقط آن چند مورد را با مدل پرهزینه دوباره رتبه‌بندی می‌کنید. ما نمی‌توانیم یک کراس-انکودر واقعی را اینجا اجرا کنیم (بدون مدل، بدون GPU)، بنابراین خروجی آن به صورت یک جدول امتیاز به شما داده می‌شود که هر کاندیدا را به امتیاز مرتبط بودنش نگاشت می‌کند، و شما بر اساس آن دوباره مرتب می‌کنید.

برای آشنایی، یک فراخوانی واقعی ریرنکر به این شکل است (در ارزیابی استفاده نمی‌شود):

# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])

دو تابع بسازید. rrf(rank_lists, k=60) یک لیست از شناسه‌های رتبه‌بندی‌شده را می‌گیرد و شناسه‌های ادغام‌شده را مرتب‌شده بر اساس امتیاز نزولی RRF بازمی‌گرداند (در صورت تساوی، شناسه اولویت‌بندی می‌شود). rerank(candidates, score_table) نامزدها را بر اساس امتیازشان در مرتب‌سازی مجدد شده بازمی‌گرداند score_table نزولی (در صورت تساوی، با شناسه حل می‌شود).

نوبت شما

دو تابع بنویسید. rrf(rank_lists, k=60) چندین لیست id رتبه‌بندی‌شده را ادغام می‌کند: امتیاز هر آیتم برابر است با مجموع روی لیست‌ها از 1 / (k + rank) (رتبه بر اساس موقعیت ۱-پایه است)، و شما آیتم‌ها را مرتب‌شده بر اساس نمرهٔ ادغام نزولی بازمی‌گردانید و در صورت تساوی با شناسهٔ آیتم اولویت‌بندی می‌کنید. rerank(candidates, score_table) بازمی‌گرداند candidates مجدداً مرتب‌شده بر اساس score_table[item] کاهش‌یافته، و در صورت تساوی بر اساس id مرتب می‌شوند. یک آیتم که در هر دو لیست ورودی رتبه بالایی داشته باشد باید در ادغام برنده شود؛ ادغام دو جفت لیست متفاوت باید ترتیب‌های متفاوتی تولید کند؛ بازرتب‌دهی باید بر اساس جدول امتیازات انجام شود؛ و ادغام یک لیست تکی آن را بدون تغییر بازمی‌گرداند.

مشکلی در این درس دیدید؟ گزارشش کنید · دربارهٔ این درس بپرسید

این تمرین به‌زودی باز می‌شود

درس پیش از آن را تمام کنید تا این یکی باز شود. کل دوره رایگان است، حساب کاربری لازم نیست، و می‌توانید همین الان این درس را بخوانید.