Slovník výrazov AI/Posilňované učenie

Posilňované učenie

čiastočne pozorovateľný Markovov rozhodovací proces

Anglický výraz partially observable Markov decision process

základnéheslo č. 12545 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená čiastočne pozorovateľný Markovov rozhodovací proces?

Čiastočne pozorovateľný Markovov rozhodovací proces rozširuje MDP o skrytý stav, pozorovania a model ich vzniku. Agent rozhoduje z belief state, teda rozdelenia možných stavov odvodeného z histórie akcií a pozorovaní.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Servisný agent nevidí skutočný stav stroja, iba senzory. Udržiava posterior poruchových režimov a volí meranie či zásah podľa očakávaného dlhodobého nákladu.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. Murphy - Probabilistic Machine Learning: An Introductionprobml.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená čiastočne pozorovateľný Markovov rozhodovací proces?

Čiastočne pozorovateľný Markovov rozhodovací proces rozširuje MDP o skrytý stav, pozorovania a model ich vzniku.

Kedy sa čiastočne pozorovateľný Markovov rozhodovací proces používa?

Servisný agent nevidí skutočný stav stroja, iba senzory.

Od čoho treba čiastočne pozorovateľný Markovov rozhodovací proces odlíšiť?

V MDP agent pozná stav; v POMDP dostáva neúplné pozorovanie a musí odhadovať belief state.

Ako sa čiastočne pozorovateľný Markovov rozhodovací proces kontroluje?

Overuje sa observačný model, aktualizácia beliefu, pamäť histórie, odmeny, simulované skryté stavy a robustnosť voči šumu.

Aké obmedzenie má čiastočne pozorovateľný Markovov rozhodovací proces?

POMDP je výpočtovo náročný a chybný observačný model môže vytvoriť veľmi istý, ale nesprávny belief.