Presná definícia
Čo znamená extrakcia príznakov?
Extrakcia príznakov v prenosovom učení používa predtrénovaný model ako pevnú transformáciu vstupu na reprezentáciu a trénuje iba nový jednoduchý model nad ňou. Chrbticová sieť nemení parametre, takže postup je lacnejší a menej náchylný na preučenie než plné dolaďovanie. Jeho limitom je, že reprezentácia nemusí zachytiť znaky dôležité pre cieľovú doménu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Obrazy sa raz prevedú zmrazeným enkóderom na vektory a nad nimi sa natrénuje logistická regresia. Extrahované vektory sa verziujú spolu s checkpointom a presným predspracovaním; inak nie sú reprodukovateľné. Tím skúsi viac vrstiev, pretože skoršie zachytávajú všeobecnejšie znaky a neskoršie zdrojovú sémantiku. Výsledok sa porovná s dolaďovaním a jednoduchými ručnými príznakmi.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Ktoré parametre sa menia?
Iba cieľová hlava alebo samostatný model nad príznakmi.
Prečo je postup lacný?
Chrbtica nepotrebuje spätné šírenie a reprezentácie možno uložiť.
Z ktorej vrstvy sa berú príznaky?
Zvolí sa podľa cieľa a overí na validácii.
Prečo sa musí zachovať?
Model očakáva rovnakú škálu, veľkosť a normalizáciu ako pri predtréningu.
Kedy nestačí?
Keď cieľ vyžaduje znaky, ktoré pevná reprezentácia potlačila.