Slovník výrazov AI/Posilňované učenie

Posilňované učenie

návratnosť

Anglický výraz return

základnéheslo č. 12585 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená návratnosť?

Návratnosť je súčet budúcich odmien od určitého kroku, často diskontovaný faktorom gamma. Je náhodnou cieľovou veličinou hodnotových funkcií a prepája okamžité rozhodnutie s jeho neskoršími dôsledkami.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri riadení batérie tím počíta diskontovanú návratnosť za celú epizódu, ale osobitne reportuje aj degradáciu, náklady a porušenia limitov.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená návratnosť?

Návratnosť je súčet budúcich odmien od určitého kroku, často diskontovaný faktorom gamma.

Kedy sa návratnosť používa?

Pri riadení batérie tím počíta diskontovanú návratnosť za celú epizódu, ale osobitne reportuje aj degradáciu, náklady a porušenia limitov.

Od čoho treba návratnosť odlíšiť?

Reward je signál jedného kroku; return agreguje budúcu sekvenciu odmien podľa horizontu a diskontu.

Ako sa návratnosť kontroluje?

Overuje sa definícia horizontu, gamma, terminálne odmeny, normalizácia, bootstrap na konci segmentu a rozdelenie návratností.

Aké obmedzenie má návratnosť?

Pri vysokom rozptyle je odhad návratnosti nestabilný a nevhodný diskont môže potlačiť dôležité dlhodobé následky.