Slovník výrazov AI/Posilňované učenie

Posilňované učenie

hlboká Q-sieť

Anglický výraz Deep Q-Network

pokročiléheslo č. 12745 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hlboká Q-sieť?

Hlboká Q-sieť je neurónový aproximátor Q-hodnôt trénovaný TD cieľmi; pôvodná DQN stabilizuje učenie prehrávaním skúseností a oddelenou cieľovou sieťou. Umožňuje Q-learning z vysokorozmerných vstupov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Agent spracuje obraz senzora, no tím najprv overí jednoduchú baseline. Sleduje TD loss, reálnu návratnosť, veľkosť Q, buffer a výkon naprieč semenami.

Overiteľnosť

Odborné zdroje

  1. Mnih et al. - Human-level control through deep reinforcement learningdoi.org
  2. Sutton & Barto - Reinforcement Learning: An Introductionandrew.cmu.edu

Praktické odpovede

Často kladené otázky

Čo presne znamená hlboká Q-sieť?

Hlboká Q-sieť je neurónový aproximátor Q-hodnôt trénovaný TD cieľmi; pôvodná DQN stabilizuje učenie prehrávaním skúseností a oddelenou cieľovou sieťou.

Kedy sa hlboká Q-sieť používa?

Agent spracuje obraz senzora, no tím najprv overí jednoduchú baseline.

Od čoho treba hlboká Q-sieť odlíšiť?

Tabuľkový Q-learning ukladá hodnotu každej dvojice; DQN ju aproximuje neurónovou sieťou a generalizuje.

Ako sa hlboká Q-sieť kontroluje?

Overuje sa preprocessing, replay buffer, target update, reward clipping, terminálne masky, epsilon a viac nezávislých behov.

Aké obmedzenie má hlboká Q-sieť?

DQN je citlivá na hyperparametre, korelované chyby a distribučný posun; vysoká Q nemusí znamenať dobrú politiku.