Slovník výrazov AI/Posilňované učenie

Posilňované učenie

hodnotová funkcia

Anglický výraz value function

základnéheslo č. 12605 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hodnotová funkcia?

Hodnotová funkcia udáva očakávanú návratnosť z daného stavu alebo dvojice stav-akcia pri určitej politike. Zhŕňa dlhodobé následky do skalárneho odhadu a spĺňa príslušnú Bellmanovu rovnicu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Agent odhaduje hodnotu stavov skladu a porovnáva ju s realizovanými návratnosťami na nezávislých epizódach. Veľké systematické rezíduá odhalia chybný kritik.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená hodnotová funkcia?

Hodnotová funkcia udáva očakávanú návratnosť z daného stavu alebo dvojice stav-akcia pri určitej politike.

Kedy sa hodnotová funkcia používa?

Agent odhaduje hodnotu stavov skladu a porovnáva ju s realizovanými návratnosťami na nezávislých epizódach.

Od čoho treba hodnotová funkcia odlíšiť?

Reward je okamžitý; value function je očakávaný súčet budúcich odmien pod politikou.

Ako sa hodnotová funkcia kontroluje?

Overuje sa cieľová politika, diskont, Bellmanovo rezíduum, Monte Carlo návratnosti, kalibrácia a pokrytie stavov.

Aké obmedzenie má hodnotová funkcia?

Aproximačná chyba hodnoty sa môže preniesť do politiky a maximalizácia potom zvýrazní nadhodnotené akcie.