Slovník výrazov AI/Posilňované učenie

Posilňované učenie

dvojitá DQN

Anglický výraz Double DQN

pokročiléheslo č. 12755 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená dvojitá DQN?

Dvojitá DQN obmedzuje nadhodnotenie tým, že online sieť vyberá najlepšiu ďalšiu akciu, kým cieľová sieť hodnotí jej Q-hodnotu. Oddeľuje tak selekciu od evaluácie v bootstrapovanom cieli.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím porovná DQN a Double DQN na rovnakých replay dátach a semenách. Okrem návratnosti sleduje rozdiel predikovaných Q a realizovaných návratov.

Overiteľnosť

Odborné zdroje

  1. van Hasselt, Guez & Silver - Deep Reinforcement Learning with Double Q-learningarxiv.org
  2. Mnih et al. - Human-level control through deep reinforcement learningdoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená dvojitá DQN?

Dvojitá DQN obmedzuje nadhodnotenie tým, že online sieť vyberá najlepšiu ďalšiu akciu, kým cieľová sieť hodnotí jej Q-hodnotu.

Kedy sa dvojitá DQN používa?

Tím porovná DQN a Double DQN na rovnakých replay dátach a semenách.

Od čoho treba dvojitá DQN odlíšiť?

DQN používa maximum cieľovej siete na výber aj hodnotenie; Double DQN tieto dve úlohy rozdelí.

Ako sa dvojitá DQN kontroluje?

Kontroluje sa implementácia argmax a gather, synchronizácia sietí, nadhodnotenie, návratnosť a ablačný experiment.

Aké obmedzenie má dvojitá DQN?

Metóda redukuje jeden zdroj biasu, no nerieši slabé dáta, chybnú odmenu ani nestabilnú reprezentáciu.