Presná definícia
Čo znamená štruktúrované prerezávanie?
Štruktúrované prerezávanie odstraňuje celé kanály, filtre, neuróny, hlavy alebo bloky, takže výsledný model má menšie husté tenzory. Hardvér ho často zrýchli bez špecializovaných sparse kernels.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím odstráni filtre s nízkou normou, znovu zostaví menšie vrstvy a model doladí. Latenciu meria po exporte na cieľový akcelerátor.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená štruktúrované prerezávanie?
Štruktúrované prerezávanie odstraňuje celé kanály, filtre, neuróny, hlavy alebo bloky, takže výsledný model má menšie husté tenzory.
Kedy sa štruktúrované prerezávanie používa?
Tím odstráni filtre s nízkou normou, znovu zostaví menšie vrstvy a model doladí.
Od čoho treba štruktúrované prerezávanie odlíšiť?
Unstructured pruning odstraňuje jednotlivé váhy. Structured pruning mení celé pravidelné rozmery alebo bloky modelu.
Ako sa štruktúrované prerezávanie kontroluje?
Kontroluje sa zvolená os, závislosti medzi vrstvami, shape consistency, dolaďovanie, MACs, accuracy a device latencia.
Aké obmedzenie má štruktúrované prerezávanie?
Odstránenie celého kanála je hrubý zásah a rovnaká miera sparsity môže poškodiť presnosť viac než neštruktúrovaný variant.