Slovník výrazov AI/Hodnotenie a metriky

Hodnotenie a metriky

online hodnotenie

Anglický výraz online evaluation

základnéheslo č. 10075 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená online hodnotenie?

Online hodnotenie meria model v reálnom systéme na živej premávke, často cez tieňovanie, canary alebo kontrolovaný experiment. Sleduje používateľský výsledok aj prevádzkové ochrany, pričom musí obmedziť expozíciu a umožniť rýchly návrat.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Nový vyhľadávací model najprv beží v tieni, potom dostane päť percent návštev. Tím sleduje úspešnosť úloh, sťažnosti, latenciu a rozdiely podľa zariadenia; pri prekročení limitu rollout zastaví.

Overiteľnosť

Odborné zdroje

  1. NIST - AI Risk Management Framework 1.0doi.org
  2. NIST/SEMATECH - Statistical significanceitl.nist.gov

Praktické odpovede

Často kladené otázky

Čo presne znamená online hodnotenie?

Online hodnotenie meria model v reálnom systéme na živej premávke, často cez tieňovanie, canary alebo kontrolovaný experiment.

Kedy sa online hodnotenie používa?

Nový vyhľadávací model najprv beží v tieni, potom dostane päť percent návštev.

Od čoho treba online hodnotenie odlíšiť?

A/B test odhaduje kauzálny rozdiel medzi variantmi; širšie online hodnotenie zahŕňa aj tieňové a neexperimentálne sledovanie.

Ako sa online hodnotenie kontroluje?

Overí sa randomizácia, jednotka experimentu, guardrail metriky, expozícia, štatistický plán a funkčný rollback.

Aké obmedzenie má online hodnotenie?

Živé testovanie môže ovplyvniť ľudí a krátky experiment môže prehliadnuť oneskorené alebo zriedkavé škody.