Slovník výrazov AI/Generatívna AI

Generatívna AI

normalizačný tok

Anglický výraz normalizing flow

základnéheslo č. 4085 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená normalizačný tok?

Normalizačný tok skladá invertibilné, diferencovateľné transformácie, ktoré menia jednoduché základné rozdelenie na zložité dátové rozdelenie. Vďaka vzorcu zmeny premenných vypočíta presnú hustotu cez determinant Jacobiánu a zároveň umožňuje generovať inverzným alebo priamym prechodom; architektúra však musí zachovať invertibilitu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Je vhodný na odhad hustoty, anomálie, kalibráciu neistoty a generovanie tam, kde je potrebná presná log-vierohodnosť. Pri návrhu sa vyvažuje expresivita transformácií, cena determinantu a rýchlosť oboch smerov. Overuje sa aj to, či vysoká vierohodnosť naozaj oddeľuje prípady mimo distribúcie.

Overiteľnosť

Odborné zdroje

  1. Variational Inference with Normalizing Flowsarxiv.org
  2. Density Estimation using Real NVParxiv.org

Praktické odpovede

Často kladené otázky

Ako funguje normalizačný tok?

Vzorka zo základnej hustoty prejde sériou bijekcií; logaritmus hustoty sa upraví o logaritmy absolútnych determinantov Jacobiánov.

Kedy má normalizačný tok praktický význam?

Je vhodný na odhad hustoty, anomálie, kalibráciu neistoty a generovanie tam, kde je potrebná presná log-vierohodnosť.

S čím si pojem nezamieňať?

Variačná inferencia môže tok použiť na pružnejší posterior, ale tok sám môže byť aj samostatným explicitným generatívnym modelom.

Ako sa výsledok kontroluje?

Meria sa testovacia log-vierohodnosť, numerická invertibilita, rekonštrukčná chyba obojsmerného prechodu a čas výpočtu Jacobiánu.

Na čo si dať pozor?

Požiadavka bijektívnosti obmedzuje architektúru a presná hustota nemusí zaručiť kvalitné vzorky ani spoľahlivú detekciu anomálií.