Slovník výrazov AI/RAG a vyhľadávanie

RAG a vyhľadávanie

krížový enkóder

Anglický výraz cross-encoder

základnéheslo č. 6145 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená krížový enkóder?

Krížový enkóder spracuje dopyt a kandidátsky text v jednej vstupnej sekvencii, takže pozornosť modeluje interakcie medzi všetkými tokenmi. Zvyčajne poskytuje presnejšie skóre relevancie než bi-enkóder, ale dokumenty nemožno jednoducho predpočítať a každý pár vyžaduje samostatný drahý beh.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Po rýchlom retrieveli cross-encoder preusporiada napríklad 50 kandidátov. Limit dĺžky a počet kandidátov sa nastavia podľa latencie a dokumenty sa skrátia konzistentne. Eval meria zisk nDCG oproti prvému stupňu a overí, že relevantný dokument bol vôbec v kandidátskej sade.

Overiteľnosť

Odborné zdroje

  1. ColBERT: Efficient and Effective Passage Search via Contextualized Late Interactionarxiv.org
  2. Sentence-BERT: Sentence Embeddings using Siamese BERT-Networksarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje krížový enkóder?

Dopyt a dokument sa spoja so separátormi a klasifikačná hlava nad spoločnou reprezentáciou odhadne relevanciu páru.

Kedy má krížový enkóder praktický význam?

Po rýchlom retrieveli cross-encoder preusporiada napríklad 50 kandidátov.

S čím si pojem nezamieňať?

Bi-enkóder skóruje predpočítané samostatné vektory; cross-encoder zachytí jemnejšie väzby za vyššiu cenu.

Ako sa výsledok kontroluje?

Sleduje sa nDCG alebo MRR po rerankingu, latencia na pár, dávkovanie a výkon podľa dĺžky kandidáta.

Na čo si dať pozor?

Nemôže zachrániť relevantný dokument, ktorý prvý retrieval nevrátil, a skrátenie môže odstrániť rozhodujúcu pasáž.