Slovník výrazov AI/Posilňované učenie

Posilňované učenie

zásobník skúseností

Anglický výraz replay buffer

pokročiléheslo č. 12795 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zásobník skúseností?

Zásobník skúseností je dátová štruktúra uchovávajúca prechody pre opakované učenie, typicky pozorovanie, akciu, odmenu, ďalšie pozorovanie a príznak ukončenia. Jeho politika vkladania a vzorkovania ovplyvňuje, z čoho sa agent učí.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím verziuje schému buffera, odlišuje ukončenie od časového limitu a monitoruje zastúpenie zriedkavých stavov. Citlivé logy uchováva s prístupovými pravidlami.

Overiteľnosť

Odborné zdroje

  1. Mnih et al. - Human-level control through deep reinforcement learningdoi.org
  2. Schaul et al. - Prioritized Experience Replayarxiv.org

Praktické odpovede

Často kladené otázky

Čo presne znamená zásobník skúseností?

Zásobník skúseností je dátová štruktúra uchovávajúca prechody pre opakované učenie, typicky pozorovanie, akciu, odmenu, ďalšie pozorovanie a príznak ukončenia.

Kedy sa zásobník skúseností používa?

Tím verziuje schému buffera, odlišuje ukončenie od časového limitu a monitoruje zastúpenie zriedkavých stavov.

Od čoho treba zásobník skúseností odlíšiť?

Dataset býva nemenný; replay buffer sa počas online učenia priebežne obnovuje a môže prepisovať staré dáta.

Ako sa zásobník skúseností kontroluje?

Kontroluje sa schéma, kapacita, kruhový index, sampling, hranice epizód, normalizácia, pôvod dát a ochrana súkromia.

Aké obmedzenie má zásobník skúseností?

Chybný príznak konca alebo miešanie nekompatibilných verzií prostredia vytvorí nesprávne TD ciele.