Presná definícia
Čo znamená prenosové učenie?
Prenosové učenie využíva znalosť získanú v zdrojovej úlohe alebo doméne na zlepšenie učenia v cieľovej úlohe či doméne. Prenášať možno reprezentácie, parametre, príklady alebo vzťahy. Úspešný prenos nie je automatický: ak sa relevantné mechanizmy líšia, vzniká negatívny prenos a cieľový model môže dopadnúť horšie než tréning bez zdroja.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri malej obrazovej sade sa použije model predtrénovaný na veľkom korpuse, najprv ako zmrazený extraktor príznakov a potom sa opatrne doladí. Tím porovná tréning od nuly, lineárnu sondu a viac rozsahov rozmrazenia pri rovnakom teste. Sleduje nielen priemer, ale aj triedy vzdialené od zdrojových dát. Ak predtrénovanie obsahovalo testovacie alebo veľmi podobné položky, výsledok sa označí za kontaminovaný.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo je zdrojom prenosu?
Predchádzajúca úloha, doména, model alebo reprezentácia.
Čo musí byť definované?
Cieľová distribúcia, úloha a dostupný počet označení.
Čo znamená?
Zdrojová znalosť zhorší výsledok oproti vhodnému základu bez prenosu.
Je prenos iba dolaďovanie?
Nie, môže ísť aj o extrakciu príznakov, váženie dát či zdieľanie reprezentácií.
Ako ho preukázať?
Porovnaním s tréningom od nuly a ďalšími základmi pri rovnakom rozpočte.