Slovník výrazov AI/Posilňované učenie

Posilňované učenie

duelová DQN

Anglický výraz dueling DQN

pokročiléheslo č. 12765 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená duelová DQN?

Duelová DQN rozdeľuje výstup siete na odhad hodnoty stavu V(s) a výhodu jednotlivých akcií A(s,a), ktoré sa identifikovateľným spôsobom spoja do Q. Pomáha, keď sa mnohé akcie v danom stave líšia len málo.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri riadení signálu tím porovná duelovú a bežnú hlavu pri rovnakom backbone. Skontroluje agregáciu advantage, návratnosť aj stavy s takmer rovnocennými akciami.

Overiteľnosť

Odborné zdroje

  1. Wang et al. - Dueling Network Architectures for Deep Reinforcement Learningproceedings.mlr.press
  2. Mnih et al. - Human-level control through deep reinforcement learningdoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená duelová DQN?

Duelová DQN rozdeľuje výstup siete na odhad hodnoty stavu V(s) a výhodu jednotlivých akcií A(s,a), ktoré sa identifikovateľným spôsobom spoja do Q.

Kedy sa duelová DQN používa?

Pri riadení signálu tím porovná duelovú a bežnú hlavu pri rovnakom backbone.

Od čoho treba duelová DQN odlíšiť?

Double DQN mení tvorbu cieľa; dueling DQN mení architektúru reprezentácie Q-funkcie.

Ako sa duelová DQN kontroluje?

Overuje sa normalizácia advantage, gradienty oboch prúdov, ablačné porovnanie, Q kalibrácia a výkon podľa stavov.

Aké obmedzenie má duelová DQN?

Pridaná architektúra nemusí pomôcť, ak výber akcie je v každom stave kritický alebo je učenie limitované dátami.