Reč a zvuk

odčítanie z pier

Anglický výraz lip reading

špecializovanéheslo č. 7935 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená odčítanie z pier?

Odčítanie z pier, vizuálne rozpoznávanie reči, odhaduje hovorený obsah zo sekvencie pohybov úst a okolia tváre bez použitia zvuku. Mnohé fonémy majú rovnaký vizuálny obraz, preto je úloha inherentne nejednoznačná a silno závisí od jazykového kontextu, uhla a viditeľnosti.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Titulkovací systém použije vizuálnu vetvu na zlepšenie hlučného videa, nie na tajné čítanie vzdialených rozhovorov. Tvár sa spracuje so súhlasom a neistota ostáva viditeľná. Eval oddeľuje hovoriacich a testuje profil, zakrytie aj synchronizáciu.

Overiteľnosť

Odborné zdroje

  1. LipNet: End-to-End Sentence-level Lipreadingarxiv.org
  2. Deep Audio-Visual Speech Recognitionarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje odčítanie z pier?

Detektor sleduje oblasť úst, vizuálny encoder spracuje časové snímky a sekvenčný decoder z nich vytvorí znaky alebo slová.

Kedy má odčítanie z pier praktický význam?

Titulkovací systém použije vizuálnu vetvu na zlepšenie hlučného videa, nie na tajné čítanie vzdialených rozhovorov.

S čím si pojem nezamieňať?

Face recognition určuje identitu zo vzhľadu; lip reading dekóduje časový jazykový obsah z pohybu úst.

Ako sa výsledok kontroluje?

Meria sa WER/CER, výkon pri rôznych uhloch, viseme confusion, synchronizácia, robustnosť zakrytia a generalizácia hovoriacich.

Na čo si dať pozor?

Homofénne vizémy nemožno rozlíšiť bez kontextu a model môže doplniť jazykovo pravdepodobnú vetu, ktorú pery nepotvrdzujú.