Slovník výrazov AI/Spracovanie prirodzeného jazyka

Spracovanie prirodzeného jazyka

sémantická podobnosť

Anglický výraz semantic similarity

pokročiléheslo č. 5395 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená sémantická podobnosť?

Sémantická podobnosť vyjadruje mieru, do akej dva texty nesú podobný význam bez ohľadu na presné slová. Môže byť spojitým skóre na úrovni slov, viet alebo dokumentov. Podobnosť neznamená pravdivosť, entailment ani identitu: veta a jej negácia môžu zdieľať veľa témy, ale tvrdiť opak.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Vyhľadávanie používa embeddingy na nájdenie parafráz a relevantných dokumentov, potom cross-encoder presnejšie zoradí kandidátov. Prah sa ladí na cieľovej doméne a eval zahŕňa negácie, čísla a tematicky podobné protiklady. Pri deduplikácii sa výsledok kombinuje s metadátami a časom.

Overiteľnosť

Odborné zdroje

  1. SimCSE: Simple Contrastive Learning of Sentence Embeddingsaclanthology.org
  2. What You Can Cram into a Single Vector: Probing Sentence Embeddings for NLI and STSaclanthology.org

Praktické odpovede

Často kladené otázky

Ako funguje sémantická podobnosť?

Texty sa mapujú na vektory a skóre sa počíta kosínovou podobnosťou alebo sa dvojica priamo ohodnotí párovým modelom.

Kedy má sémantická podobnosť praktický význam?

Vyhľadávanie používa embeddingy na nájdenie parafráz a relevantných dokumentov, potom cross-encoder presnejšie zoradí kandidátov.

S čím si pojem nezamieňať?

Inferencia prirodzeného jazyka rozlišuje implikáciu, rozpor a neutralitu; similarity poskytuje symetrickú mieru blízkosti.

Ako sa výsledok kontroluje?

Používa sa korelácia s ľudskými skóre, retrieval recall, presnosť pri prahu a cielené kontrastné páry.

Na čo si dať pozor?

Vektor môže zachytiť tému viac než významový vzťah; prahy sa neprenášajú spoľahlivo medzi jazykmi a doménami.