Slovník výrazov AI/RAG a vyhľadávanie

RAG a vyhľadávanie

BM25

Anglický výraz BM25

špecializovanéheslo č. 6415 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená BM25?

BM25 je rodina pravdepodobnostne motivovaných rankingových funkcií pre lexikálne vyhľadávanie. Skóre zvyšuje pri zhode vzácnych termínov, saturuje vplyv opakovanej frekvencie a normalizuje dĺžku dokumentu parametrami k1 a b. Skóre nie je pravdepodobnosť a nie je porovnateľné medzi rôznymi dopytmi či indexmi.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Vyhľadávač dokumentácie používa BM25 ako rýchlu baseline a vetvu hybridu. Tím ladí k1, b a váhy polí na súbore na hodnotenie relevantnosti, ale zachová rozumné predvolené porovnanie. Pri názvoch a kódoch kontroluje analyzér a vysvetlenie skóre na konkrétnych termínoch.

Overiteľnosť

Odborné zdroje

  1. Stanford IR Book - Okapi BM25nlp.stanford.edu
  2. Manning, Raghavan a Schütze - Introduction to Information Retrievalnlp.stanford.edu

Praktické odpovede

Často kladené otázky

Ako funguje BM25?

Pre každý dopytový termín sa kombinuje IDF, saturovaná term frequency a korekcia dĺžky dokumentu a príspevky sa sčítajú.

Kedy má BM25 praktický význam?

Vyhľadávač dokumentácie používa BM25 ako rýchlu baseline a vetvu hybridu.

S čím si pojem nezamieňať?

TF-IDF je všeobecná termínová váha; BM25 používa saturovanú frekvenciu a explicitnú normalizáciu dĺžky.

Ako sa výsledok kontroluje?

Hodnotí sa nDCG, MAP alebo recall@k, citlivosť k1/b a výkon podľa dĺžky, poľa a typu dopytu.

Na čo si dať pozor?

Dlhé dokumenty a veľmi krátke polia potrebujú odlišné nastavenie a synonymum bez zhodného tokenu BM25 nenájde.