Slovník výrazov AI/Multimodálna AI

Multimodálna AI

odpovedanie na otázky o videu

Anglický výraz video question answering

pokročiléheslo č. 8295 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená odpovedanie na otázky o videu?

Odpovedanie na otázky o videu vytvára alebo vyberá odpoveď podľa udalostí, objektov a vzťahov v časovej sekvencii. Otázka môže vyžadovať lokalizovať relevantný moment, sledovať entitu naprieč zábermi a porovnať stavy pred a po udalosti.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Školiaca platforma sa pýta, ktorý krok postupu nasledoval po kontrole ventilu. Model vráti odpoveď aj časové úseky, z ktorých vychádza, a používateľ ich môže otvoriť. Testy menia poradie krokov a obsahujú otázky bez dostupnej odpovede.

Overiteľnosť

Odborné zdroje

  1. Zhong et al. - Video Question Answering: Datasets, Algorithms and Challengesarxiv.org
  2. Liu et al. - Temporal Sentence Grounding in Videos: A Surveyarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje odpovedanie na otázky o videu?

Model zakóduje otázku a video, pozornosťou alebo retrievalom vyberie relevantné časové tokeny a dekóder z nich vytvorí odpoveď.

Kedy má odpovedanie na otázky o videu praktický význam?

Školiaca platforma sa pýta, ktorý krok postupu nasledoval po kontrole ventilu.

S čím si pojem nezamieňať?

Video captioning vytvára všeobecný opis bez konkrétnej otázky; VideoQA vyhľadáva dôkaz potrebný pre zadaný dopyt.

Ako sa výsledok kontroluje?

Meria sa presnosť alebo konsenzus odpovedí, temporal grounding, faktickosť, výkon podľa typu otázky, dĺžky videa a neprítomného dôkazu.

Na čo si dať pozor?

Jazykové stereotypy môžu nahradiť pozorovanie deja a model môže odpovedať podľa titulku či otázky bez využitia videa.