Slovník výrazov AI/Prenosové a úsporné učenie

Prenosové a úsporné učenie

kontinuálne učenie

Anglický výraz continual learning

špecializovanéheslo č. 2425 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kontinuálne učenie?

Kontinuálne učenie aktualizuje model počas postupnej sekvencie skúseností tak, aby získaval nové znalosti a zároveň zachoval výkon na predchádzajúcich. Úlohy, triedy alebo distribúcie sa môžu meniť a staré dáta môžu byť obmedzené. Jadrom problému je kompromis stability a plasticity; jednoduché pokračovanie tréningu často vedie ku katastrofickému zabúdaniu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model pre prichádzajúce typy dokumentov sa aktualizuje po etapách. Ku každej etape sa uchová malá povolená replay vzorka alebo súhrn, zavedie sa regularizácia dôležitých parametrov a po aktualizácii sa testujú všetky doterajšie úlohy. Protokol uvádza priemernú presnosť, zabúdanie, dopredný aj spätný prenos a náklady pamäte. Testovacie dáta sa nikdy nepoužijú ako replay.

Overiteľnosť

Odborné zdroje

  1. Parisi et al. · Continual lifelong learning reviewdoi.org
  2. Kirkpatrick et al. · Overcoming catastrophic forgettingdoi.org

Praktické odpovede

Často kladené otázky

Čo je špecifické?

Dáta alebo úlohy prichádzajú postupne, nie naraz.

Ako sa prejaví?

Výkon na starých úlohách po učení nových klesne.

Čo znamená?

Opätovné použitie malej časti starých dát alebo generovaných reprezentácií.

Čo sa meria okrem finálnej accuracy?

Zabúdanie a prenos medzi etapami.

Možno uchovávať všetky staré dáta?

Nie vždy; limit pamäte a súkromia patrí do protokolu.