Slovník výrazov AI/Posilňované učenie

Posilňované učenie

učenie Monte Carlo

Anglický výraz Monte Carlo learning

pokročiléheslo č. 12715 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená učenie Monte Carlo?

Učenie Monte Carlo odhaduje hodnoty alebo zlepšuje politiku z úplných návratností dokončených epizód bez bootstrapovania z vlastného odhadu. Je model-free, no musí čakať na výsledok epizódy a máva vyšší rozptyl.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Agent po skončení simulovanej zákazky priradí každému navštívenému stavu realizovaný návrat. Tím priemeruje viac semien a porovnáva first-visit a every-visit variant.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená učenie Monte Carlo?

Učenie Monte Carlo odhaduje hodnoty alebo zlepšuje politiku z úplných návratností dokončených epizód bez bootstrapovania z vlastného odhadu.

Kedy sa učenie Monte Carlo používa?

Agent po skončení simulovanej zákazky priradí každému navštívenému stavu realizovaný návrat.

Od čoho treba učenie Monte Carlo odlíšiť?

TD learning bootstrapuje z ďalšej hodnoty; Monte Carlo learning používa skutočný návrat až do konca epizódy.

Ako sa učenie Monte Carlo kontroluje?

Kontroluje sa definícia epizódy, diskont, návštevy stavov, exploring starts alebo coverage, rozptyl a priemerovanie.

Aké obmedzenie má učenie Monte Carlo?

Pri dlhých či nekončiacich úlohách sú návratnosti oneskorené a veľmi variabilné, čo spomaľuje učenie.