Slovník výrazov AI/Posilňované učenie

Posilňované učenie

prioritizované prehrávanie skúseností

Anglický výraz prioritized experience replay

pokročiléheslo č. 12775 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená prioritizované prehrávanie skúseností?

Prioritizované prehrávanie skúseností vzorkuje prechody z replay buffera častejšie podľa priority, zvyčajne veľkosti TD chyby. Importance-sampling váhy čiastočne korigujú bias spôsobený nerovnomerným výberom.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím sleduje distribúciu priorít, efektívnu veľkosť vzorky a podiel starých prechodov. Výkon porovná s rovnomerným replay pri rovnakom počte aktualizácií.

Overiteľnosť

Odborné zdroje

  1. Schaul et al. - Prioritized Experience Replayarxiv.org
  2. Mnih et al. - Human-level control through deep reinforcement learningdoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená prioritizované prehrávanie skúseností?

Prioritizované prehrávanie skúseností vzorkuje prechody z replay buffera častejšie podľa priority, zvyčajne veľkosti TD chyby.

Kedy sa prioritizované prehrávanie skúseností používa?

Tím sleduje distribúciu priorít, efektívnu veľkosť vzorky a podiel starých prechodov.

Od čoho treba prioritizované prehrávanie skúseností odlíšiť?

Bežný experience replay vzorkuje rovnomerne; prioritized replay zvýhodňuje informatívne alebo prekvapivé prechody.

Ako sa prioritizované prehrávanie skúseností kontroluje?

Kontroluje sa exponent priority, korekčné beta, epsilon priority, aktualizácia po učení, coverage a ablačná baseline.

Aké obmedzenie má prioritizované prehrávanie skúseností?

Veľká TD chyba môže znamenať šum alebo chybný label odmeny, takže priorita môže zosilniť nežiaduce prípady.