Presná definícia
Čo znamená zdieľanie váh?
Zdieľanie váh používa tie isté parametre na viacerých miestach alebo vo viacerých podmodeloch. Znižuje počet nezávislých parametrov a môže umožniť efektívne prehľadávanie architektúr, no spája ich učebné signály.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Supernet zdieľa váhy medzi kandidátnymi subnetmi. Tím finálnu architektúru znovu vyhodnotí a podľa potreby dotrénuje bez zdieľania.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená zdieľanie váh?
Zdieľanie váh používa tie isté parametre na viacerých miestach alebo vo viacerých podmodeloch.
Kedy sa zdieľanie váh používa?
Supernet zdieľa váhy medzi kandidátnymi subnetmi.
Od čoho treba zdieľanie váh odlíšiť?
Parameter tying je pevne navrhnuté zdieľanie. NAS weight sharing dočasne aproximuje výkon mnohých architektúr jednou sieťou.
Ako sa zdieľanie váh kontroluje?
Kontroluje sa mapovanie zdieľaných parametrov, gradient interference, sampling subnetov, parameter count, retraining a ranking fidelity.
Aké obmedzenie má zdieľanie váh?
Zdieľané váhy môžu nespravodlivo zvýhodniť často vzorkované architektúry a ich proxy poradie nemusí zodpovedať samostatnému tréningu.