Temario Lección 149 de 250 · Embeddings y búsqueda semántica desde cero
Embeddings y búsqueda semántica desde cero

Búsqueda híbrida: fusión por rango recíproco + reordenación

BM25 (disperso, léxico) y el coseno de embeddings (denso, semántico) captan cada uno lo que el otro se pierde: BM25 acierta con los términos exactos y los códigos raros, la recuperación densa capta las paráfrasis. Los sistemas de producción ejecutan ambos y combinan los resultados. El problema es que sus puntuaciones viven en escalas totalmente distintas, así que no puedes simplemente sumarlas. La solución estándar es combinar por rango, no por puntuación.

La fusión por rango recíproco (RRF) hace exactamente eso. Cada recuperador te da una lista ordenada de ids de documentos. La puntuación fusionada de un elemento es la suma, a lo largo de las listas, de 1 / (k + rank), donde rank es su posición empezando en 1 en esa lista y k es una constante (60 es el valor por defecto habitual, que suaviza la diferencia entre los rangos 1 y 2):

score(item) = sum over lists of  1 / (k + rank_in_that_list)

Un elemento cerca de lo alto de ambas listas reúne dos aportaciones grandes y gana. Un elemento que solo encontró un recuperador sigue recibiendo crédito parcial. Luego ordena por puntuación fusionada descendente. Para que sea determinista cuando dos elementos empatan, deshaz el empate por el id del elemento.

La segunda etapa es la reordenación. La fusión es barata y aproximada; un cross-encoder lee la consulta y un candidato juntos y puntúa directamente su relevancia, lo que es mucho más preciso pero demasiado lento para ejecutarlo sobre todo el corpus. Así que fusionas para obtener una lista corta de candidatos y luego reordenas solo esos pocos con el modelo caro. Aquí no podemos ejecutar un cross-encoder real (no hay modelo ni GPU), así que te damos su salida como una tabla de puntuaciones que asigna a cada candidato su puntuación de relevancia, y tú reordenas según ella.

Como contexto, una llamada real a un reordenador se ve así (NO se usa en la evaluación):

# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])

Construye dos funciones. rrf(rank_lists, k=60) recibe una lista de listas ordenadas de ids y devuelve los ids fusionados ordenados por puntuación RRF descendente (empates deshechos por id). rerank(candidates, score_table) devuelve los candidatos reordenados por su puntuación en score_table descendente (empates deshechos por id).

Tu turno

Escribe dos funciones. rrf(rank_lists, k=60) fusiona varias listas ordenadas de ids: la puntuación de cada elemento es la suma a lo largo de las listas de 1 / (k + rank) (rank es la posición empezando en 1), y devuelves los elementos ordenados por puntuación fusionada descendente, deshaciendo empates por el id del elemento. rerank(candidates, score_table) devuelve candidates reordenados por score_table[item] descendente, con empates deshechos por id. Un elemento bien situado en ambas listas de entrada debe ganar la fusión; fusionar dos pares de listas distintos debe dar órdenes distintos; rerank debe reordenar según la tabla de puntuaciones; y fusionar una sola lista la devuelve sin cambios.

¿Has visto un problema en esta lección? Avísanos · Preguntar sobre esta lección

Este ejercicio se abre pronto

Termina la lección anterior y esta se desbloquea. Todo el curso es gratis, no hace falta cuenta, y puedes leer esta lección ahora mismo.