Slovník výrazov AI/Spracovanie prirodzeného jazyka

Spracovanie prirodzeného jazyka

segmentácia viet

Anglický výraz sentence segmentation

základnéheslo č. 5065 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená segmentácia viet?

Segmentácia viet určuje hranice viet alebo vetných úsekov v súvislom texte. Nie je to jednoduché delenie pri bodke: skratky, desatinné čísla, úvodzovky, nadpisy a text bez interpunkcie vyžadujú jazykové pravidlá alebo naučený model. Výsledné hranice ovplyvňujú všetky ďalšie kroky NLP.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pred prekladom či extrakciou informácií pipeline označí začiatok a koniec každej vety a zachová pozície v pôvodnom texte. Pre slovenčinu sa testujú skratky ako „napr.“ a iniciály, pre chat aj emoji a chýbajúca interpunkcia. Chyby sa vyhodnocujú na úrovni hraníc a osobitne podľa žánru.

Overiteľnosť

Odborné zdroje

  1. Jurafsky a Martin - Speech and Language Processingweb.stanford.edu
  2. UDPipe 2.0 - analýza viet a morfológieaclanthology.org

Praktické odpovede

Často kladené otázky

Ako funguje segmentácia viet?

Klasifikátor alebo pravidlá rozhodujú pri každom kandidátnom znaku, či ukončuje vetu, s využitím okolia a typografie.

Kedy má segmentácia viet praktický význam?

Pred prekladom či extrakciou informácií pipeline označí začiatok a koniec každej vety a zachová pozície v pôvodnom texte.

S čím si pojem nezamieňať?

Segmentácia slov hľadá hranice tokenov; segmentácia viet vytvára väčšie úseky diskurzu.

Ako sa výsledok kontroluje?

Porovnajú sa predikované a zlaté hranice pomocou precision, recall a F1 a ručne sa rozoberú skratky či úvodzovky.

Na čo si dať pozor?

Model z novinových textov môže zlyhať v chate, kóde alebo právnych dokumentoch; jedna chybná hranica rozdelí kontext.