Slovník výrazov AI/Multimodálna AI

Multimodálna AI

porozumenie videu

Anglický výraz video understanding

pokročiléheslo č. 8275 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená porozumenie videu?

Porozumenie videu je súbor úloh, pri ktorých model rozpoznáva objekty, činnosti, udalosti a ich časové alebo príčinné vzťahy v pohyblivom obraze, prípadne aj vo zvuku a texte. Nejde o jednu metriku; úloha musí určiť požadovanú úroveň času a významu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Bezpečnostná analýza skladu označí sekvencie, kde sa vozík priblížil k vyznačenej zóne, a pracovník overí klip. Model sa testuje na rýchlosti, uhle, zakrytí a rozdielnom poradí udalostí. Výstup neslúži na automatické sankcionovanie osôb.

Overiteľnosť

Odborné zdroje

  1. Liu et al. - Temporal Sentence Grounding in Videos: A Surveyarxiv.org
  2. Zhong et al. - Video Question Answering: Datasets, Algorithms and Challengesarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje porozumenie videu?

Priestorovo-časový enkóder agreguje snímky alebo trubice objektov a následná hlava klasifikuje, lokalizuje alebo jazykovo opisuje udalosti.

Kedy má porozumenie videu praktický význam?

Bezpečnostná analýza skladu označí sekvencie, kde sa vozík priblížil k vyznačenej zóne, a pracovník overí klip.

S čím si pojem nezamieňať?

Rozpoznanie obrazu analyzuje statický záber; video understanding musí využiť zmenu a poradie v čase.

Ako sa výsledok kontroluje?

Používajú sa metriky konkrétnej úlohy, temporal IoU, citlivosť na poradie, dlhý kontext, audio ablation a robustnosť vzorkovania.

Na čo si dať pozor?

Model môže rozpoznať scénu z pozadia namiesto deja a pri riedkom vzorkovaní nesprávne poskladať začiatok a koniec udalosti.