Slovník výrazov AI/Učenie bez učiteľa

Učenie bez učiteľa

latentná Dirichletova alokácia

Anglický výraz latent Dirichlet allocation

pokročiléheslo č. 1885 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená latentná Dirichletova alokácia?

Latentná Dirichletova alokácia (LDA) je generatívny pravdepodobnostný témový model. Pre každý dokument vyberá Dirichletovo rozdelenú zmes tém; každé slovo má latentnú tému a vzniká z tematického rozdelenia slov. Základný model používa bag-of-words a ignoruje poradie slov. Skratka LDA sa nesmie zamieňať s lineárnou diskriminačnou analýzou.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Korpus sa prevedie na počty tokenov s jednotným slovníkom. Počet tém a Dirichletove hyperparametre riadia jemnosť a riedkosť zmesí. Model sa trénuje s viacerými seedmi, pretože označenia tém sú zameniteľné a riešenia môžu byť lokálne. Hodnotí sa held-out perplexita, koherencia a ľudské posúdenie reprezentatívnych dokumentov; nižšia perplexita nemusí znamenať zrozumiteľnejšie témy. Nový dokument dostane posteriornú zmes pri pevnom slovníku, pričom neznáme slová sa musia riešiť explicitne.

Overiteľnosť

Odborné zdroje

  1. Blei, Ng, Jordan · LDAjmlr.org
  2. scikit-learn · Matrix decompositionscikit-learn.org

Praktické odpovede

Často kladené otázky

Ako LDA opisuje slovo?

Najprv vyberie tému podľa dokumentu a potom slovo podľa tejto témy.

Berie do úvahy slovosled?

Základná LDA nie; dokument reprezentuje ako bag-of-words.

Načo slúži Dirichletovo rozdelenie?

Je priorom nad pravdepodobnostnými zmesami tém a slov.

Zaručí nižšia perplexita lepšie názvy tém?

Nie. Predikčný fit a ľudská koherencia sa môžu rozchádzať.

Je to lineárna diskriminačná analýza?

Nie. Obe metódy používajú skratku LDA, ale riešia iný problém.