Slovník výrazov AI/Posilňované učenie

Posilňované učenie

stavová hodnotová funkcia

Anglický výraz state-value function

základnéheslo č. 12615 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená stavová hodnotová funkcia?

Stavová hodnotová funkcia Vπ(s) je očakávaná návratnosť pri začiatku v stave s a následnom výbere akcií podľa politiky π. Priemeruje teda dôsledky všetkých akcií, ktoré politika v danom stave zvolí.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím zobrazí Vπ pre stavy zásob a Monte Carlo kontrolou porovná odhad s priemerným výsledkom epizód začínajúcich v podobnom stave.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená stavová hodnotová funkcia?

Stavová hodnotová funkcia Vπ(s) je očakávaná návratnosť pri začiatku v stave s a následnom výbere akcií podľa politiky π.

Kedy sa stavová hodnotová funkcia používa?

Tím zobrazí Vπ pre stavy zásob a Monte Carlo kontrolou porovná odhad s priemerným výsledkom epizód začínajúcich v podobnom stave.

Od čoho treba stavová hodnotová funkcia odlíšiť?

Action-value Qπ(s,a) podmieňuje prvú akciu; state-value Vπ(s) ju priemeruje podľa politiky.

Ako sa stavová hodnotová funkcia kontroluje?

Kontroluje sa politika, distribúcia štartov, diskont, Bellmanovo rezíduum, odhad návratnosti a extrapolácia.

Aké obmedzenie má stavová hodnotová funkcia?

Vysoká priemerná hodnota stavu môže skryť malú pravdepodobnosť veľmi nepriaznivého výsledku.