Presná definícia
Čo znamená inštančná normalizácia?
Inštančná normalizácia pri obrazových tenzoroch normalizuje každý príklad a kanál osobitne cez priestorové pozície. Od BatchNorm sa líši tým, že nespojuje štatistiky medzi príkladmi, a od LayerNorm tým, že nezlučuje kanály. Pôvodne sa uplatnila pri štýlovej transformácii, kde odstránenie kontrastových štatistík jednotlivého kanála pomáha oddeliť obsah od štýlu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri generovaní štýlov sa pre každý obraz a kanál vypočíta priemer a rozptyl cez výšku a šírku. Tím overí správanie na dávke veľkosti jedna, nastavenie učených afinných parametrov a to, či vrstva uchováva bežiace štatistiky. Pre klasifikáciu sa porovná s BatchNorm a GroupNorm, pretože odstránenie inštančných štatistík môže zahodiť informáciu dôležitú pre triedu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Cez ktoré rozmery normalizuje?
Cez priestorové pozície osobitne pre príklad a kanál.
Používa iné príklady?
Nie, preto je stabilná aj pri batch size jedna.
Spája ich štatistiky?
Nie, každý kanál spracuje oddelene.
Kde sa preslávila?
V rýchlej obrazovej štýlovej transformácii.
Čo môže odstrániť?
Kontrastové štatistiky, ktoré môžu byť pre niektoré úlohy informatívne.