Slovník výrazov AI/Posilňované učenie

Posilňované učenie

vyhodnocovanie politiky

Anglický výraz policy evaluation

základnéheslo č. 12665 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vyhodnocovanie politiky?

Vyhodnocovanie politiky je odhad jej očakávanej návratnosti alebo hodnotových funkcií bez zmeny samotnej politiky. Môže byť on-policy zo spustených epizód, modelové alebo off-policy z dát inej behaviorálnej politiky.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pred nasadením tím odhadne výkon kandidátnej politiky na simulátore aj logged dátach, uvedie interval a osobitne vyhodnotí bezpečnostné metriky.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená vyhodnocovanie politiky?

Vyhodnocovanie politiky je odhad jej očakávanej návratnosti alebo hodnotových funkcií bez zmeny samotnej politiky.

Kedy sa vyhodnocovanie politiky používa?

Pred nasadením tím odhadne výkon kandidátnej politiky na simulátore aj logged dátach, uvedie interval a osobitne vyhodnotí bezpečnostné metriky.

Od čoho treba vyhodnocovanie politiky odlíšiť?

Policy optimization politiku mení; policy evaluation iba odhaduje dôsledky presne určenej politiky.

Ako sa vyhodnocovanie politiky kontroluje?

Kontroluje sa cieľová a behaviorálna politika, coverage, importance weights, model bias, interval neistoty a test proti baseline.

Aké obmedzenie má vyhodnocovanie politiky?

Off-policy odhad zlyhá, ak historické dáta neobsahujú akcie, ktoré kandidátna politika často volí.