Slovník výrazov AI/Multimodálna AI

Multimodálna AI

porozumenie odkazovacím výrazom

Anglický výraz referring expression comprehension

pokročiléheslo č. 8235 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená porozumenie odkazovacím výrazom?

Porozumenie odkazovacím výrazom určuje, ktorý objekt v scéne označuje jazykový opis, napríklad „druhý pohár sprava“. Úspech závisí od atribútov, priestorových vzťahov a odlíšenia rušivých objektov; výstupom býva región alebo identifikátor cieľa.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Hlasové ovládanie skladu spracuje pokyn „označ krabicu pod zelenou policou“. Rozhranie najprv zobrazí vybraný objekt a pri dvoch možných cieľoch položí doplňujúcu otázku. Test systematicky mení farbu, polohu, počet a poradie objektov.

Overiteľnosť

Odborné zdroje

  1. Xiao et al. - Towards Visual Grounding: A Surveyarxiv.org
  2. Li et al. - Multimodal Alignment and Fusion: A Surveyarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje porozumenie odkazovacím výrazom?

Model zakóduje výraz a kandidátne objekty, vyhodnotí ich atribúty a vzťahy a vyberie najlepšie zodpovedajúceho referenta alebo odmietne nejednoznačnosť.

Kedy má porozumenie odkazovacím výrazom praktický význam?

Hlasové ovládanie skladu spracuje pokyn „označ krabicu pod zelenou policou“.

S čím si pojem nezamieňať?

Phrase grounding viaže viac fráz k regiónom; referring expression comprehension rieši identifikáciu zamýšľaného referenta rozlišujúcim opisom.

Ako sa výsledok kontroluje?

Meria sa presnosť výberu alebo IoU, výkon podľa typu atribútu, rušivých objektov, nejednoznačnosti a neprítomného cieľa.

Na čo si dať pozor?

Model môže využiť pozičný bias datasetu a vybrať častý región bez skutočného porozumenia rozlišujúcej frázy.