Slovník výrazov AI/Posilňované učenie

Posilňované učenie

zlepšovanie politiky

Anglický výraz policy improvement

základnéheslo č. 12675 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zlepšovanie politiky?

Zlepšovanie politiky vytvára politiku s hodnotou aspoň takou dobrou ako pôvodná, typicky voľbou akcií greedy alebo soft-greedy podľa odhadnutej Q-funkcie. Tvrdenie platí pri správnom hodnotení a predpokladoch MDP.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Po odhade Q tím zavedie len obmedzenú zmenu voči bezpečnej baseline, zmeria dolnú hranicu prínosu a odmietne update pri slabej podpore dát.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená zlepšovanie politiky?

Zlepšovanie politiky vytvára politiku s hodnotou aspoň takou dobrou ako pôvodná, typicky voľbou akcií greedy alebo soft-greedy podľa odhadnutej Q-funkcie.

Kedy sa zlepšovanie politiky používa?

Po odhade Q tím zavedie len obmedzenú zmenu voči bezpečnej baseline, zmeria dolnú hranicu prínosu a odmietne update pri slabej podpore dát.

Od čoho treba zlepšovanie politiky odlíšiť?

Policy evaluation odhaduje hodnotu existujúcej politiky; policy improvement podľa nej navrhuje lepšie akcie.

Ako sa zlepšovanie politiky kontroluje?

Overuje sa presnosť Q, podpora akcií, monotónnosť na známom MDP, bezpečnostné obmedzenia a nezávislé epizódy.

Aké obmedzenie má zlepšovanie politiky?

Greedy zlepšenie nad chybnou Q-funkciou môže vybrať práve akcie s najväčším kladným omylom.