Slovník výrazov AI/Riadenie, právo a regulácia

Riadenie, právo a regulácia

riadenie modelov

Anglický výraz model governance

pokročiléheslo č. 14855 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená riadenie modelov?

Riadenie modelov je súbor pravidiel a kontrol pre inventarizáciu, vlastníctvo, klasifikáciu, nezávislú validáciu, schválenie, verzovanie, monitorovanie a vyradenie modelov. Zahŕňa aj externé a vložené modely, nie iba modely vyvinuté interne.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Každý model dostane identifikátor, vlastníka, účel, rizikovú triedu a validačný stav. Nasadenie povoľuje workflow; zmena dát alebo výkonu spustí novú validáciu a plánované vyradenie.

Overiteľnosť

Odborné zdroje

  1. ISO - ISO/IEC 42001 AI management systemsiso.org
  2. NIST - Artificial Intelligence Risk Management Framework 1.0nvlpubs.nist.gov

Praktické odpovede

Často kladené otázky

Čo presne znamená riadenie modelov?

Riadenie modelov je súbor pravidiel a kontrol pre inventarizáciu, vlastníctvo, klasifikáciu, nezávislú validáciu, schválenie, verzovanie, monitorovanie a vyradenie modelov.

Kedy sa riadenie modelov používa?

Každý model dostane identifikátor, vlastníka, účel, rizikovú triedu a validačný stav.

Od čoho treba riadenie modelov odlíšiť?

MLOps automatizuje technický tok build-deploy-monitor. Riadenie modelov určuje rozhodovacie práva, požadované dôkazy a prípustné riziko v tomto toku.

Ako sa riadenie modelov kontroluje?

Kontroluje sa úplnosť inventára, vlastníci, klasifikácia, nezávislosť validácie, schválená verzia, limity použitia, výnimky, monitoring a vyradenie.

Aké obmedzenie má riadenie modelov?

Shadow modely v tabuľkách, API a dodávateľských produktoch môžu uniknúť inventáru; príliš ťažký proces zas podporí obchádzanie kontrol.