Presná definícia
Čo znamená podmienená entropia?
Podmienená entropia H(Y|X) je zostávajúca priemerná neistota premennej Y po pozorovaní X. Súvisí so vzájomnou informáciou vzťahom I(X;Y)=H(Y)-H(Y|X) a pri diskrétnych premenných nemôže prekročiť H(Y).
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím meria, koľko neistoty o triede zostáva po poznaní senzora. Ak je conditional entropy vysoká, samotný senzor nemôže spoľahlivo určiť výsledok.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená podmienená entropia?
Podmienená entropia H(Y|X) je zostávajúca priemerná neistota premennej Y po pozorovaní X.
Kedy sa podmienená entropia používa?
Tím meria, koľko neistoty o triede zostáva po poznaní senzora.
Od čoho treba podmienená entropia odlíšiť?
Joint entropy opisuje neistotu dvojice; conditional entropy izoluje neistotu jednej premennej po pozorovaní druhej.
Ako sa podmienená entropia kontroluje?
Kontroluje sa spoločné rozdelenie, normalizácia, nulové pravdepodobnosti, log báza, odhad zo vzorky a konzistentnosť identít.
Aké obmedzenie má podmienená entropia?
Malá vzorka a jemný binning vedú k zaujatému odhadu a pozorovaný X nemusí byť dostupný v čase predikcie.