Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

Boltzmannov stroj

Anglický výraz Boltzmann machine

pokročiléheslo č. 3245 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Boltzmannov stroj?

Boltzmannov stroj je stochastická rekurentná sieť s binárnymi jednotkami a symetrickými väzbami, ktorá definuje pravdepodobnostné rozdelenie cez energetickú funkciu. Viditeľné a skryté jednotky sa vzorkujú podľa podmienených pravdepodobností; učenie porovnáva štatistiky dát so štatistikami rovnovážneho modelu. Všeobecné spojenie jednotiek robí presné učenie výpočtovo náročným.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model má význam pri štúdiu energetických generatívnych modelov a malých úlohách, kde možno dôkladne kontrolovať vzorkovanie. Tréning potrebuje pozitívnu fázu viazanú dátami a negatívnu fázu zo samotného modelu; nedostatočne premiešané Markovove reťazce skreslia gradient. V produkčnej úlohe sa preto často volí obmedzený Boltzmannov stroj alebo modernejší energetický model. Kvalita sa posudzuje aj cez vzorky a odhad pravdepodobnosti, nie iba rekonštrukčnú chybu.

Overiteľnosť

Odborné zdroje

  1. Ackley, Hinton, Sejnowski · Boltzmann machinesdoi.org
  2. Hinton · Guide to training RBMscs.toronto.edu

Praktické odpovede

Často kladené otázky

Ako súvisí s pravdepodobnosťou?

Nižšia energia znamená vyššiu nenormalizovanú pravdepodobnosť stavu.

Sú jednotky deterministické?

Nie, stav sa vzorkuje z pravdepodobnosti určenej susedmi a biasom.

Čo učí pozitívna a negatívna fáza?

Prvá podporuje korelácie z dát, druhá potláča tie, ktoré model generuje navyše.

Prečo je problém?

Presné očakávania vyžadujú dostatočne dlhé vzorkovanie z modelu.

Čím sa líši od Hopfieldovej siete?

Modeluje rozdelenie stochasticky, nie iba deterministické atraktory.