Slovník výrazov AI/Multimodálna AI

Multimodálna AI

neskorá fúzia

Anglický výraz late fusion

základnéheslo č. 8165 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená neskorá fúzia?

Neskorá fúzia spája až samostatné výstupné skóre, pravdepodobnosti alebo rozhodnutia modelov pre jednotlivé modality. Uľahčuje nezávislé trénovanie a výpadok kanála, no obmedzuje učenie jemných interakcií, ktoré sa stratia pred konečným kombinovaním.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Detektor podvodu vytvorí oddelené skóre z textu žiadosti, tabuľkových údajov a obrazu dokladu. Kalibrovaný kombinátor ich váži a pri chýbajúcom obraze použije schválenú konfiguráciu. Analytik vidí príspevok každej vetvy a rozhoduje podľa pravidiel.

Overiteľnosť

Odborné zdroje

  1. Li et al. - Multimodal Alignment and Fusion: A Surveyarxiv.org
  2. Baltrušaitis et al. - Multimodal Machine Learning: A Survey and Taxonomyarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje neskorá fúzia?

Každý modalitný model vytvorí predikciu a meta-model, vážený priemer alebo hlasovanie z nich vypočíta výsledné skóre.

Kedy má neskorá fúzia praktický význam?

Detektor podvodu vytvorí oddelené skóre z textu žiadosti, tabuľkových údajov a obrazu dokladu.

S čím si pojem nezamieňať?

Early fusion kombinuje vstupy pred extrakciou; late fusion zachováva oddelené spracovanie až po výstup každej vetvy.

Ako sa výsledok kontroluje?

Meria sa kalibrácia vetiev aj kombinácie, prínos každej modality, výkon pri výpadku, korelácia chýb a stabilita váh.

Na čo si dať pozor?

Nezávislé vetvy môžu opakovať tú istú chybu a jednoduché priemerovanie pravdepodobností je nesprávne, ak nie sú kalibrované.