Slovník výrazov AI/Spracovanie prirodzeného jazyka

Spracovanie prirodzeného jazyka

odrezávanie koncoviek (stemming)

Anglický výraz stemming

základnéheslo č. 5105 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená odrezávanie koncoviek (stemming)?

Odrezávanie koncoviek je heuristická normalizácia, ktorá skracuje príbuzné slovné tvary na spoločný kmeň pomocou pravidiel pre predpony a prípony. Výstup nemusí byť slovníkové slovo ani morfologicky správny koreň. Metóda je rýchla, no v bohato ohýbaných jazykoch ľahko spája nesúvisiace výrazy alebo nedostatočne zlučuje príbuzné.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Jednoduchý vyhľadávač môže stemmingom zvýšiť zhodu medzi dotazom a dokumentom bez plného lingvistického modelu. Tím porovná vyhľadávaciu kvalitu so surovými tokenmi a lematizáciou, vytvorí zoznam výnimiek a verzuje pravidlá. Pri zobrazovaní sa vždy používa pôvodný tvar, nie technický kmeň.

Overiteľnosť

Odborné zdroje

  1. Jurafsky a Martin - Speech and Language Processingweb.stanford.edu
  2. UDPipe 2.0 - analýza viet a morfológieaclanthology.org

Praktické odpovede

Často kladené otázky

Ako funguje odrezávanie koncoviek (stemming)?

Postupne sa aplikujú jazykové pravidlá, ktoré odstránia alebo nahradia typické koncovky pri splnení podmienok dĺžky a tvaru.

Kedy má odrezávanie koncoviek (stemming) praktický význam?

Jednoduchý vyhľadávač môže stemmingom zvýšiť zhodu medzi dotazom a dokumentom bez plného lingvistického modelu.

S čím si pojem nezamieňať?

Lematizácia cieli na slovníkovú lemu a využíva gramatiku; stemmer vracia iba normalizačný kód podobných tvarov.

Ako sa výsledok kontroluje?

Hodnotí sa presnosť vyhľadávania a vzorka párov s nadmerným či nedostatočným zlučovaním.

Na čo si dať pozor?

Agresívne pravidlá spoja slová s odlišným významom; pravidlá pre jeden jazyk nemožno bezpečne preniesť do druhého.