Slovník výrazov AI/Posilňované učenie

Posilňované učenie

SARSA

Anglický výraz SARSA

pokročiléheslo č. 12735 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená SARSA?

SARSA je on-policy TD riadiaci algoritmus pomenovaný podľa päťice stav-akcia-odmena-stav-akcia. Q-hodnotu aktualizuje pomocou akcie, ktorú aktuálna behaviorálna politika skutočne zvolí v nasledujúcom stave.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri navigácii tím ponechá epsilon prieskum aj počas učenia, takže SARSA započíta riziko prieskumných krokov. Po zmene epsilon politiku znovu vyhodnotí.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. OpenAI - Spinning Up in Deep Reinforcement Learningspinningup.openai.com

Praktické odpovede

Často kladené otázky

Čo presne znamená SARSA?

SARSA je on-policy TD riadiaci algoritmus pomenovaný podľa päťice stav-akcia-odmena-stav-akcia.

Kedy sa SARSA používa?

Pri navigácii tím ponechá epsilon prieskum aj počas učenia, takže SARSA započíta riziko prieskumných krokov.

Od čoho treba SARSA odlíšiť?

Q-learning cieli na greedy maximum; SARSA hodnotí pokračovanie aktuálnej, aj prieskumnej politiky.

Ako sa SARSA kontroluje?

Kontroluje sa poradie pätice, konzistentnosť behaviorálnej politiky, epsilon, terminálne prechody a návratnosť.

Aké obmedzenie má SARSA?

Výsledok závisí od prieskumnej politiky; príliš pomalý pokles epsilon môže zachovať zbytočne opatrné správanie.