Slovník výrazov AI/Architektúry hlbokého učenia

Architektúry hlbokého učenia

Hopfieldova sieť

Anglický výraz Hopfield network

pokročiléheslo č. 3235 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená Hopfieldova sieť?

Hopfieldova sieť je rekurentná asociatívna pamäť so symetrickými väzbami a stavom, ktorý sa aktualizáciami presúva k lokálnym minimám energetickej funkcie. Uložené vzory tvoria atraktory: neúplný alebo zašumený vstup môže skonvergovať k blízkemu vzoru. Klasická binárna verzia má obmedzenú kapacitu a môže vytvárať aj neželané zmiešané atraktory.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Používa sa najmä na demonštráciu obsahovo adresovateľnej pamäte, dopĺňanie malých vzorov a optimalizačné formulácie. Pri experimente sa váhy nastavia Hebbovým pravidlom alebo učením, diagonála sa spravidla vynuluje a aktualizácie sa robia asynchrónne, aby energia neklesala nesprávne. Tím meria úspech obnovy podľa množstva šumu a počtu uložených vzorov a kontroluje falošné atraktory; nejde o vhodné úložisko presných veľkých databáz.

Overiteľnosť

Odborné zdroje

  1. Hopfield · Neural networks and physical systemsdoi.org
  2. Ackley, Hinton, Sejnowski · Boltzmann machinesdoi.org

Praktické odpovede

Často kladené otázky

Na čo slúži energetická funkcia?

Usporiada stavy tak, aby asynchrónne aktualizácie smerovali k stabilným bodom.

Čo znamená obsahové adresovanie?

Vzor sa vyvolá podobným obsahom, nie explicitnou adresou.

Prečo sú symetrické?

Symetria umožňuje definovať energiu s monotónnym správaním pri bežnej aktualizácii.

Je neobmedzená?

Nie; s počtom vzorov rastú interferencie a chybná obnova.

Je každý stabilný stav uložený vzor?

Nie, môžu vzniknúť aj parazitné alebo zmiešané stavy.