Slovník výrazov AI/Multimodálna AI

Multimodálna AI

skorá fúzia

Anglický výraz early fusion

základnéheslo č. 8155 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená skorá fúzia?

Skorá fúzia kombinuje surové alebo nízkoúrovňové vstupy z viacerých modalít pred hlbokým modalitne špecifickým spracovaním. Umožňuje učiť jemné lokálne interakcie, ale vyžaduje kompatibilné mierky, synchronizáciu a zvládnutie rozdielnych rozmerov dát.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Robot zlúči časovo zosúladené RGB, hĺbku a termálny kanál do vstupného tenzora pre detekciu prekážok. Kalibrácia kamier je súčasťou pipeline a test posúva kanály o známe hodnoty. Pri výpadku termálneho senzora sa aktivuje overený náhradný režim.

Overiteľnosť

Odborné zdroje

  1. Li et al. - Multimodal Alignment and Fusion: A Surveyarxiv.org
  2. Baltrušaitis et al. - Multimodal Machine Learning: A Survey and Taxonomyarxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje skorá fúzia?

Vstupy sa normalizujú, priestorovo alebo časovo registrujú a spoja ako kanály či tokeny ešte pred spoločným enkóderom.

Kedy má skorá fúzia praktický význam?

Robot zlúči časovo zosúladené RGB, hĺbku a termálny kanál do vstupného tenzora pre detekciu prekážok.

S čím si pojem nezamieňať?

Late fusion spája hotové predikcie; early fusion umožní interakciu už na úrovni vstupných znakov.

Ako sa výsledok kontroluje?

Kontroluje sa citlivosť na registráciu, ablation kanálov, chýbajúce modality, gradientová dominancia, pamäť a výkon oproti neskorej fúzii.

Na čo si dať pozor?

Nesprávne zosúladené senzory vytvoria systematické artefakty a poškodený kanál môže ovplyvniť všetky ďalšie vrstvy.