Slovník výrazov AI/Posilňované učenie

Posilňované učenie

aktér-kritik

Anglický výraz actor-critic

pokročiléheslo č. 12875 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená aktér-kritik?

Aktér-kritik je architektúra, v ktorej aktér reprezentuje politiku a kritik odhaduje hodnotu alebo výhodu používanú na jej aktualizáciu. Spája priamu optimalizáciu politiky s bootstrapovaným odhadom dlhodobého výsledku.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Robotický agent má stochastického aktéra a kritika V(s). Tím sleduje oddelene policy loss, value error, entropiu a realizovanú návratnosť naprieč semenami.

Overiteľnosť

Odborné zdroje

  1. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com
  2. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu

Praktické odpovede

Často kladené otázky

Čo presne znamená aktér-kritik?

Aktér-kritik je architektúra, v ktorej aktér reprezentuje politiku a kritik odhaduje hodnotu alebo výhodu používanú na jej aktualizáciu.

Kedy sa aktér-kritik používa?

Robotický agent má stochastického aktéra a kritika V(s).

Od čoho treba aktér-kritik odlíšiť?

Policy gradient môže používať celý návrat bez kritika; actor-critic používa naučený hodnotový baseline alebo TD cieľ.

Ako sa aktér-kritik kontroluje?

Kontroluje sa tok gradientu, synchronizácia cieľov, bias kritika, entropia, clipping, škála odmien a nezávislé hodnotenie.

Aké obmedzenie má aktér-kritik?

Chybný kritik systematicky vedie aktéra nesprávnym smerom a obe siete môžu spoločne skolabovať.