Hibridsoek: Reciprocal Rank Fusion + Reranking
BM25 (sparse, lexical) en embedding cosine (dense, semantic) vang elk wat die ander een mis: BM25 kry presiese terme en skaars kodes, dense retrieval vang parafrases. Produksiesisteme hardloop both en kombineer die resultate. Die probleem is dat hulle punte op heeltemal verskillende skaales leef, so jy kan hulle nie net bymekaar optel nie. Die standaard oplossing is om te kombineer by rank, nie score nie.
Reciprocal Rank Fusion (RRF) doen presies dit. Elke retriever gee vir jou 'n geordende lys van document ids. 'n Item se gefuseerde telling is die som, oor die lyste heen, van 1 / (k + rank), waar rank sy 1-gebaseerde posisie in daardie lys is en k 'n konstante is (60 is die algemene standaard wat die gaping tussen rangs 1 en 2 versag):
score(item) = sum over lists of 1 / (k + rank_in_that_list)'n item naby die bo van both lyse versamel twee groot bydraes en wen. 'n Item wat net een retriever gevind het, kry steeds gedeeltelike krediet. Sorteer dan volgens fused score afwaarts. Vir determinisme wanneer twee items gelyk is, breek die gelykheid met die item id.
Die tweede stadium is reranking. Fusion is goedkoop en benaderend; 'n cross-encoder lees die query en 'n kandidaat saam en skêur hul relevantie direk. Dit is baie meer akkuraat maar te stadig om oor die hele korpus te hardloop. Jy doen dus fusion om 'n kort kandidaatlys te kry, en dan rerank net daie paar met die duur model. Ons kan nie 'n regte cross-encoder hier hardloop nie (geen model, geen GPU nie), so jy kry die uitset daarvan as 'n score table wat elke kandidaat na sy relevantieskêur omskakel, en jy sorteer dit dan oor.
Vir konteks, 'n regte reranker-oproep lyk soos dit (NIE gebruik in gradering nie):
# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])Bou twee funksies. rrf(rank_lists, k=60) neem 'n lys van gerangskikke id-lyste en gee die gefuseerde ids wat volgens RRF-telling afdalend gesorteer is (gelyke word deur id opgelos). rerank(candidates, score_table) gee die kandidate wat weer volgens hul telling in score_table afdalend gesorteer is (gelyke word deur id opgelos).
Skryf twee funksies. rrf(rank_lists, k=60) smelt verskeie gerangskikke id-lyste saam: elke item se telling is die som oor die lyste van 1 / (k + rank) (rang is 1-gebaseerde posisie), en jy gee die items terug wat volgens die gesmelt telling afdalend gesorteer is, met id as die wenner by gelyke telling. rerank(candidates, score_table) gee candidates terug, hergesorteer volgens score_table[item] afdalend, met id as die wenner by gelyke telling. 'n Item wat hoog gerang is in beide inganglyste moet die smelt wen; die smelt van twee verskillende lyspaare moet verskillende volgordes gee; rerank moet herrangskik volgens die tellingtabel; en die smelt van 'n enkele lys gee dit onveranderd terug.
Sien jy 'n probleem in hierdie les? Rapporteer dit · Vra oor hierdie les
Hierdie oefening open binnekort
Voltooi die lesie voor dit en hierdie een sal ontvanklik wees. Die hele kursus is gratis, geen rekening nodig nie, en jy kan hierdie les nou lees.
Hierdie blutser blokkeer koekies vir learn.floati.life, so lesse wat jy hier voltooi het kan nie in volgorde oopgaan nie. Laat koekies vir hierdie webwerf toe en laai nuut.