Programma Lezione 149 di 250 · Embedding e ricerca semantica da zero
Embedding e ricerca semantica da zero

Ricerca ibrida: Reciprocal Rank Fusion + riordinamento

Il BM25 (sparso, lessicale) e il coseno degli embedding (denso, semantico) catturano ciascuno ciò che l'altro perde: il BM25 azzecca i termini esatti e i codici rari, il recupero denso cattura le parafrasi. I sistemi di produzione li usano entrambi e combinano i risultati. Il problema è che i loro punteggi vivono su scale completamente diverse, quindi non puoi semplicemente sommarli. La soluzione standard è combinare per posizione, non per punteggio.

La Reciprocal Rank Fusion (RRF) fa esattamente questo. Ogni recuperatore ti dà una lista ordinata di id di documenti. Il punteggio fuso di un elemento è la somma, sulle liste, di 1 / (k + rank), dove rank è la sua posizione (contando da 1) in quella lista e k è una costante (60 è il default comune che ammorbidisce il divario tra le posizioni 1 e 2):

score(item) = sum over lists of  1 / (k + rank_in_that_list)

Un elemento vicino alla cima di entrambe le liste raccoglie due grandi contributi e vince. Un elemento trovato da un solo recuperatore riceve comunque un credito parziale. Poi ordina per punteggio fuso decrescente. Per il determinismo quando due elementi sono pari, spareggia con l'id dell'elemento.

La seconda fase è il riordinamento (reranking). La fusione è economica e approssimativa; un cross-encoder legge insieme la query e un candidato e ne valuta direttamente la pertinenza, ed è molto più preciso ma troppo lento per girare su tutto il corpus. Quindi fondi per avere una breve lista di candidati, poi riordini solo quei pochi con il modello costoso. Qui non possiamo far girare un vero cross-encoder (niente modello, niente GPU), quindi ti viene data la sua uscita come tabella di punteggi che associa a ogni candidato il suo punteggio di pertinenza, e riordini in base a quella.

Per contesto, una vera chiamata a un riordinatore ha questo aspetto (NON usata nella correzione):

# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])

Costruisci due funzioni. rrf(rank_lists, k=60) riceve una lista di liste ordinate di id e restituisce gli id fusi ordinati per punteggio RRF decrescente (parità spareggiate per id). rerank(candidates, score_table) restituisce i candidati riordinati per il loro punteggio in score_table decrescente (parità spareggiate per id).

Tocca a te

Scrivi due funzioni. rrf(rank_lists, k=60) fonde diverse liste ordinate di id: il punteggio di ogni elemento è la somma sulle liste di 1 / (k + rank) (rank è la posizione contando da 1), e restituisci gli elementi ordinati per punteggio fuso decrescente, spareggiando per id dell'elemento. rerank(candidates, score_table) restituisce candidates riordinati per score_table[item] decrescente, parità spareggiate per id. Un elemento in alto in entrambe le liste di input deve vincere la fusione; fondere due coppie di liste diverse deve dare ordini diversi; rerank deve riordinare secondo la tabella di punteggi; e fondere una sola lista la restituisce invariata.

Hai notato un problema in questa lezione? Segnalalo · Chiedi qualcosa su questa lezione

Questo esercizio si apre presto

Finisci la lezione precedente e questa si sblocca. L'intero corso è gratuito, senza account, e puoi leggere questa lezione subito.