Slovník výrazov AI/Pravdepodobnosť a neistota

Pravdepodobnosť a neistota

princíp maximálnej entropie

Anglický výraz maximum entropy principle

pokročiléheslo č. 12345 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená princíp maximálnej entropie?

Princíp maximálnej entropie vyberá spomedzi rozdelení spĺňajúcich známe obmedzenia to s najvyššou entropiou. Tak nepridáva štruktúru ani istotu, ktorú dostupné informácie nevynucujú.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Ak tím pozná iba priemer a rozptyl spojitej veličiny na celej reálnej osi, maximálna entropia vedie ku Gaussovmu rozdeleniu. Pred použitím overí, že podpora a obmedzenia sú správne.

Overiteľnosť

Odborné zdroje

  1. Shannon - A Mathematical Theory of Communicationdoi.org
  2. Murphy - Probabilistic Machine Learning: An Introductionprobml.github.io

Praktické odpovede

Často kladené otázky

Čo presne znamená princíp maximálnej entropie?

Princíp maximálnej entropie vyberá spomedzi rozdelení spĺňajúcich známe obmedzenia to s najvyššou entropiou.

Kedy sa princíp maximálnej entropie používa?

Ak tím pozná iba priemer a rozptyl spojitej veličiny na celej reálnej osi, maximálna entropia vedie ku Gaussovmu rozdeleniu.

Od čoho treba princíp maximálnej entropie odlíšiť?

Maximum likelihood vyberá parametre najlepšie vysvetľujúce dáta; maximum entropy vyberá najmenej štruktúrované rozdelenie pri obmedzeniach.

Ako sa princíp maximálnej entropie kontroluje?

Kontroluje sa úplnosť a konzistentnosť obmedzení, podpora, existencia riešenia, Lagrangeove multiplikátory a citlivosť.

Aké obmedzenie má princíp maximálnej entropie?

Chýbajúce podstatné obmedzenie vytvorí síce maximálne neurčité, ale doménovo nereálne rozdelenie.