Slovník výrazov AI/Hodnotenie a metriky

Hodnotenie a metriky

hodnotenie modelu

Anglický výraz model evaluation

základnéheslo č. 10015 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená hodnotenie modelu?

Hodnotenie modelu je systematické meranie toho, ako model plní vopred určený účel na dátach a scenároch mimo učenia. Spája metriku, referenčný výsledok, segmenty, neistotu a rozhodovacie prahy; jedno súhrnné číslo preto nestačí.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pred nasadením úverového modelu tím porovná kandidátov na časovo oddelenom datasete. Okrem záchytu sleduje falošné zamietnutia podľa skupín, kalibráciu skóre a náklady chýb, potom zapíše dôvod výberu verzie.

Overiteľnosť

Odborné zdroje

  1. scikit-learn - Metrics and scoring: quantifying prediction qualityscikit-learn.org
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená hodnotenie modelu?

Hodnotenie modelu je systematické meranie toho, ako model plní vopred určený účel na dátach a scenároch mimo učenia.

Kedy sa hodnotenie modelu používa?

Pred nasadením úverového modelu tím porovná kandidátov na časovo oddelenom datasete.

Od čoho treba hodnotenie modelu odlíšiť?

Testovanie softvéru overuje implementáciu; hodnotenie modelu skúma aj štatistické správanie a vhodnosť pre účel.

Ako sa hodnotenie modelu kontroluje?

Použijú sa zmrazené dáta, reprodukovateľný protokol, intervaly neistoty, segmentové výsledky a analýza chýb.

Aké obmedzenie má hodnotenie modelu?

Výsledok sa môže znehodnotiť únikom testovacích dát, nevhodnou metrikou alebo zmenou populácie po nasadení.