Hibrit Arama: Reciprocal Rank Fusion + Reranking
BM25 (sparse, lexical) ve embedding cosine (dense, semantic) her ikisi de diğerinin kaçırdığı şeyi yakalar: BM25 tam terimleri ve nadir kodları çözer, dense retrieval ise farklı ifadeleri yakalar. Üretim sistemleri both çalıştırır ve sonuçları birleştirir. Sorun şu ki, skorları tamamen farklı ölçeklerde yer alır, bu yüzden onları sadece toplayamazsın. Standart çözüm skor yerine rank ile birleştirmektir.
Reciprocal Rank Fusion (RRF) tam olarak bunu yapar. Her retriever sana sıralı bir belge id listesi verir. Bir öğenin birleştirilmiş skoru, listelerdeki 1 / (k + rank) toplamıdır, burada rank o listedeki 1 tabanlı konumudur ve k bir sabittir (1 ve 2 arasındaki farkı yumuşatan yaygın varsayılan değer 60'tır):
score(item) = sum over lists of 1 / (k + rank_in_that_list)her iki listesinin üst kısmındaki bir öğe iki büyük katkı toplar ve kazanır. Sadece bir retriever tarafından bulunan bir öğe hala kısmi puan alır. Sonra fused score değerine göre azalan sırada sırala. İki öğe eşit olduğunda determinizm için eşitliği item id ile çöz.
İkinci aşama reranking. Fusion ucuz ve yaklaşık bir yöntemdir; bir cross-encoder sorguyu ve adayı birlikte okur ve bunların alaka düzeyini doğrudan puanlar. Bu yöntem çok daha doğru ancak tüm külliyat üzerinde çalıştırılmak için çok yavaştır. Bu yüzden kısa bir aday listesi elde etmek için fusion yaparsın, sonra sadece o birkaç adayı pahalı modelle rerank edersin. Burada gerçek bir cross-encoder çalıştıramayız (model yok, GPU yok), bu yüzden sana her adayı alaka puanına eşleyen bir score table olarak çıktısı verilir ve sen buna göre tekrar sıralarsın.
Bağlam için, gerçek bir reranker çağrısı şuna benzer (değerlendirmede KULLANILMAZ):
# a real cross-encoder, requires a model download and is NOT run here
from sentence_transformers import CrossEncoder
ce = CrossEncoder("cross-encoder/ms-marco-MiniLM-L-6-v2")
scores = ce.predict([(query, doc) for doc in candidates])İki fonksiyon oluştur. rrf(rank_lists, k=60) sıralanmış id listelerinden oluşan bir liste alır ve birleştirilmiş idleri RRF skoruna göre azalan sırada döndürür (eşitlik durumunda id'ye göre sıralanır). rerank(candidates, score_table) adayları score_table skorlarına göre azalan sırada yeniden sıralayarak döndürür (eşitlik durumunda id'ye göre sıralanır).
İki fonksiyon yaz. rrf(rank_lists, k=60) birkaç sıralanmış id listesini birleştirir: her öğenin skoru 1 / (k + rank) listelerindeki toplamdır (sıralama 1 tabanlı konumdur) ve sen öğeleri birleştirilmiş skora göre azalan sırada döndürürsün, eşitlik durumunda öğe idine göre ayırırsın. rerank(candidates, score_table), candidates listesini score_table[item] azalan sırasına göre yeniden sıralayarak döndürür, eşitlik durumunda id ile ayırır. Her iki giriş listesinde de yüksek sırada olan bir öğe birleştirmede kazanmalıdır; iki farklı liste çiftini birleştirmek farklı sıralamalar vermelidir; rerank skor tablosuna göre yeniden sıralamalıdır; ve tek bir listeyi birleştirmek onu değişmeden döndürmelidir.
Bu derste bir sorun mu fark ettin? Bildir · Bu ders hakkında soru sor
Bu alıştırma yakında açılacak
Bu dersi bitirince bu ders açılacak. Kursun tamamı ücretsiz, hesap gerekmiyor ve bu dersi hemen şimdi okuyabilirsin.
Bu tarayıcı learn.floati.life için çerezleri engelliyor, bu yüzden burada bitirdiğin dersler sırasıyla açılamıyor. Bu site için çerezlere izin ver ve sayfayı yenile.