Slovník výrazov AI/Multimodálna AI

Multimodálna AI

titulkovanie videa

Anglický výraz video captioning

pokročiléheslo č. 8285 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená titulkovanie videa?

Titulkovanie videa automaticky generuje prirodzený jazyk opisujúci obsah alebo udalosti videosekvencie. Oproti titulku statického obrazu musí zachytiť zmenu a poradie; husté titulkovanie navyše priraďuje viac opisov konkrétnym časovým úsekom.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Archív vytvorí vyhľadateľné návrhy opisov krátkych reportážnych klipov. Editor vidí časový rozsah a opraví mená, počty aj poradie udalostí podľa originálu. Automatický text sa nepublikuje bez kontroly a oddelí sa hovorený prepis od vizuálneho opisu.

Overiteľnosť

Odborné zdroje

  1. Liu et al. - Temporal Sentence Grounding in Videos: A Surveyarxiv.org
  2. Alayrac et al. - Flamingo: a Visual Language Model for Few-Shot Learningarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje titulkovanie videa?

Video enkóder vytvorí časové reprezentácie a jazykový dekóder generuje slová podmienené relevantnými snímkami, zvukom a prípadnými intervalmi.

Kedy má titulkovanie videa praktický význam?

Archív vytvorí vyhľadateľné návrhy opisov krátkych reportážnych klipov.

S čím si pojem nezamieňať?

Transcription zapisuje hovorené slová; video captioning opisuje to, čo sa vo videu deje, aj keď nikto nehovorí.

Ako sa výsledok kontroluje?

Hodnotí sa faktickosť, pokrytie udalostí, temporal alignment, CIDEr/BLEU s ľudským posúdením, mená, počty a halucinácie.

Na čo si dať pozor?

Model môže vytvoriť všeobecný opis zo scény, pomýliť poradie alebo tvrdiť činnosť, ktorú ukazuje iba jeden nejednoznačný záber.