Slovník výrazov AI/Posilňované učenie

Posilňované učenie

zovšeobecnený odhad výhody

Anglický výraz generalized advantage estimation

špecializovanéheslo č. 12935 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zovšeobecnený odhad výhody?

Zovšeobecnený odhad výhody kombinuje viac-krokové TD rezíduá s exponenciálnymi váhami riadenými parametrom λ. Menšie λ znižuje rozptyl za cenu väčšieho biasu, väčšie sa približuje Monte Carlo návratu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím vypočíta GAE so správnymi maskami konca epizódy, normalizuje ho v dávke a abláciou porovná viac hodnôt lambda pri rovnakom kritikovi.

Overiteľnosť

Odborné zdroje

  1. Schulman et al. - High-Dimensional Continuous Control Using Generalized Advantage Estimationarxiv.org
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená zovšeobecnený odhad výhody?

Zovšeobecnený odhad výhody kombinuje viac-krokové TD rezíduá s exponenciálnymi váhami riadenými parametrom λ.

Kedy sa zovšeobecnený odhad výhody používa?

Tím vypočíta GAE so správnymi maskami konca epizódy, normalizuje ho v dávke a abláciou porovná viac hodnôt lambda pri rovnakom kritikovi.

Od čoho treba zovšeobecnený odhad výhody odlíšiť?

Jednokroková TD výhoda používa jedno rezíduum; GAE agreguje reťaz rezíduí s váhou γλ.

Ako sa zovšeobecnený odhad výhody kontroluje?

Kontroluje sa spätná rekurzia, gamma, lambda, bootstrapping pri time-limit, terminálne masky a korelácia s návratmi.

Aké obmedzenie má zovšeobecnený odhad výhody?

Nevhodná kombinácia lambda a nepresného kritika môže vytvoriť hladký, ale systematicky skreslený signál.