Presná definícia
Čo znamená riedkosť modelu?
Riedkosť modelu je podiel nulových alebo neaktívnych prvkov vo váhach, aktiváciách či výpočtovej štruktúre. Môže byť nepravidelná, bloková alebo štruktúrovaná a výkon prináša iba pri podpore formátu a hardvéru.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím reportuje celkovú aj layer-wise sparsitu, typ masky a fyzicky odstránené štruktúry. Následne meria veľkosť a latenciu v cieľovom runtime.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená riedkosť modelu?
Riedkosť modelu je podiel nulových alebo neaktívnych prvkov vo váhach, aktiváciách či výpočtovej štruktúre.
Kedy sa riedkosť modelu používa?
Tím reportuje celkovú aj layer-wise sparsitu, typ masky a fyzicky odstránené štruktúry.
Od čoho treba riedkosť modelu odlíšiť?
Model compression je širšia kategória. Model sparsity konkrétne opisuje, koľko prvkov alebo blokov sa nemusí spracovať.
Ako sa riedkosť modelu kontroluje?
Kontroluje sa definícia nulového prvku, granularity, maska, distribúcia po vrstvách, accuracy, storage format a sparse kernel.
Aké obmedzenie má riedkosť modelu?
Rovnaké percento núl môže mať úplne iný výkon podľa vzoru sparsimy a mnohé runtimy nuly stále počítajú.