Slovník výrazov AI/Posilňované učenie

Posilňované učenie

Q-funkcia

Anglický výraz Q-function

základnéheslo č. 12635 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Q-funkcia?

Q-funkcia je bežné označenie akčnej hodnotovej funkcie; Qπ hodnotí akciu pri danej politike a Q* hodnotí akciu pri optimálnom následnom správaní. Jej argumentmi sú stav a akcia, nie iba aktuálna odmena.

Skúsenosť a kontext

Ako sa pojem používa v praxi

V DQN tím sleduje rozdelenie Q-hodnôt, TD chybu a reálne návratnosti. Ak hodnoty rastú bez zlepšenia epizód, upraví ciele alebo stabilizáciu.

Overiteľnosť

Odborné zdroje

  1. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu
  2. Mnih et al. - Human-level control through deep reinforcement learningdoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená Q-funkcia?

Q-funkcia je bežné označenie akčnej hodnotovej funkcie; Qπ hodnotí akciu pri danej politike a Q* hodnotí akciu pri optimálnom následnom správaní.

Kedy sa Q-funkcia používa?

V DQN tím sleduje rozdelenie Q-hodnôt, TD chybu a reálne návratnosti.

Od čoho treba Q-funkcia odlíšiť?

Qπ je viazaná na konkrétnu politiku; optimal Q-function Q* predpokladá optimálne pokračovanie.

Ako sa Q-funkcia kontroluje?

Kontroluje sa definícia cieľa, mierka odmeny, discount, target network, nadhodnotenie a porovnanie s realizovanou návratnosťou.

Aké obmedzenie má Q-funkcia?

Číselne veľká Q-hodnota nie je pravdepodobnosť úspechu a mimo dát môže byť svojvoľná.