Slovník výrazov AI/Posilňované učenie

Posilňované učenie

horná medza spoľahlivosti

Anglický výraz upper confidence bound

pokročiléheslo č. 12845 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená horná medza spoľahlivosti?

Horná medza spoľahlivosti v banditoch vyberá akciu maximalizujúcu súčet odhadu odmeny a bonusu za neistotu. Bonus klesá s počtom pozorovaní, takže stratégia optimisticky skúma slabo preskúmané ramená.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím používa UCB pre varianty s okamžitou odozvou, kalibruje koeficient bonusu simuláciou a monitoruje regret aj počet výberov každého ramena.

Overiteľnosť

Odborné zdroje

  1. Auer, Cesa-Bianchi & Fischer - Finite-time Analysis of the Multiarmed Bandit Problemdoi.org
  2. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu

Praktické odpovede

Často kladené otázky

Čo presne znamená horná medza spoľahlivosti?

Horná medza spoľahlivosti v banditoch vyberá akciu maximalizujúcu súčet odhadu odmeny a bonusu za neistotu.

Kedy sa horná medza spoľahlivosti používa?

Tím používa UCB pre varianty s okamžitou odozvou, kalibruje koeficient bonusu simuláciou a monitoruje regret aj počet výberov každého ramena.

Od čoho treba horná medza spoľahlivosti odlíšiť?

Greedy voľba používa iba odhad priemeru; UCB k nemu pridáva explicitnú hornú neistotnú hranicu.

Ako sa horná medza spoľahlivosti kontroluje?

Overuje sa vzorec bonusu, predpoklad odmien, inicializácia ramien, oneskorenia, ne-stacionarita a simulovaný regret.

Aké obmedzenie má horná medza spoľahlivosti?

Pri zlom modeli neistoty alebo meniacich sa odmenách hranica nemá deklarovaný význam a prieskum je skreslený.