Slovník výrazov AI/Multimodálna AI

Multimodálna AI

fúzia príznakov

Anglický výraz feature fusion

základnéheslo č. 8185 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená fúzia príznakov?

Fúzia príznakov kombinuje deskriptory alebo skryté vektory z viacerých zdrojov do reprezentácie používanej ďalším modelom. Môže ísť o konkatenáciu, súčet, bilineárnu interakciu, bránu či pozornosť; pred spojením treba riešiť mierku, dimenziu a zarovnanie príznakov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Klasifikátor dokumentov spojí textové embeddingy, vizuálne bloky a geometrické súradnice. Každú vetvu normalizuje a abláciou overí jej prínos. Zmena jedného enkódera vyžaduje nové trénovanie alebo kalibráciu fúzneho modulu, nie iba výmenu súboru.

Overiteľnosť

Odborné zdroje

  1. Li et al. - Multimodal Alignment and Fusion: A Surveyarxiv.org
  2. Huang et al. - LayoutLMv3arxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje fúzia príznakov?

Transformácie privedú príznaky do kompatibilného priestoru a operátor ich spojí do jedného vektora alebo sekvencie pre následné vrstvy.

Kedy má fúzia príznakov praktický význam?

Klasifikátor dokumentov spojí textové embeddingy, vizuálne bloky a geometrické súradnice.

S čím si pojem nezamieňať?

Data fusion môže spájať aj surové merania alebo finálne rozhodnutia; feature fusion pracuje konkrétne s odvodenými reprezentáciami.

Ako sa výsledok kontroluje?

Kontroluje sa normalizácia, rozmery, gradienty, prínos každej vetvy, odolnosť voči šumu a výkon alternatívnych operátorov.

Na čo si dať pozor?

Konkatenácia bez kontroly mierky dovolí vysoko dimenzionálnej vetve dominovať a zvýši počet parametrov bez skutočného informačného zisku.