Slovník výrazov AI/RAG a vyhľadávanie

RAG a vyhľadávanie

lexikálne vyhľadávanie

Anglický výraz lexical search

základnéheslo č. 6095 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená lexikálne vyhľadávanie?

Lexikálne vyhľadávanie vyberá a skóruje položky podľa zhody slov, tokenov alebo ich normalizovaných tvarov medzi dopytom a dokumentom. Typicky používa invertovaný index a váženie ako BM25. Je silné pri menách, kódoch a presných frázach, ale bez rozšírenia nemusí nájsť synonymá.

Skúsenosť a kontext

Ako sa pojem používa v praxi

V technickej podpore lexikálny index spoľahlivo nájde chybový kód a presný názov produktu. Analyzér sa nastaví podľa jazyka, zachová identifikátory a polia s názvom môžu mať vyššiu váhu. Eval kontroluje presné frázy, preklepy aj dokumenty s odlišnou terminológiou.

Overiteľnosť

Odborné zdroje

  1. Stanford IR Book - inverted indexnlp.stanford.edu
  2. Stanford IR Book - Okapi BM25nlp.stanford.edu

Praktické odpovede

Často kladené otázky

Ako funguje lexikálne vyhľadávanie?

Invertovaný index priradí termínom zoznam dokumentov a ranking kombinuje frekvenciu, vzácnosť a normalizáciu dĺžky.

Kedy má lexikálne vyhľadávanie praktický význam?

V technickej podpore lexikálny index spoľahlivo nájde chybový kód a presný názov produktu.

S čím si pojem nezamieňať?

Sémantické vyhľadávanie porovnáva naučený významový priestor; lexikálne sa opiera o explicitné termíny.

Ako sa výsledok kontroluje?

Meria sa recall@k, nDCG a presnosť pri známych položkách, frázach a identifikátoroch po zvolenej analýze textu.

Na čo si dať pozor?

Nevhodný stemming poškodí názvy a rozdielne synonymá sa nestretnú; veľmi časté slovo môže vytvoriť šum.