Slovník výrazov AI/Posilňované učenie

Posilňované učenie

kontextový bandita

Anglický výraz contextual bandit

pokročiléheslo č. 12865 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená kontextový bandita?

Kontextový bandita pozoruje kontext, zvolí akciu a dostane odmenu iba za zvolenú akciu, pričom nemodeluje dlhodobý prechod stavu. Učí podmienenú politiku, ktorá prispôsobuje voľbu vlastnostiam situácie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Systém vyberá formu pomoci podľa typu zariadenia a úlohy. Loguje kontext, akciu, odmenu aj propensity, aby umožnil off-policy porovnanie politík.

Overiteľnosť

Odborné zdroje

  1. Lattimore & Szepesvári - Bandit Algorithmstor-lattimore.com
  2. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu

Praktické odpovede

Často kladené otázky

Čo presne znamená kontextový bandita?

Kontextový bandita pozoruje kontext, zvolí akciu a dostane odmenu iba za zvolenú akciu, pričom nemodeluje dlhodobý prechod stavu.

Kedy sa kontextový bandita používa?

Systém vyberá formu pomoci podľa typu zariadenia a úlohy.

Od čoho treba kontextový bandita odlíšiť?

Klasický bandit nemá kontext; contextual bandit podmieňuje očakávanú odmenu na pozorovaných príznakoch.

Ako sa kontextový bandita kontroluje?

Overuje sa dostupnosť kontextu v čase voľby, propensity, overlap, oneskorená odmena, drift a segmentová férovosť.

Aké obmedzenie má kontextový bandita?

Chýbajúci overlap znemožní hodnotiť nové akcie pre niektoré kontexty a confounding skreslí observačné logy.