Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

auditná stopa

Anglický výraz audit trail

špecializovanéheslo č. 11985 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená auditná stopa?

Auditná stopa je chronologická a proti neoprávnenej zmene chránená evidencia udalostí, verzií, prístupov, vstupov, výstupov a schválení, ktorá umožňuje spätne rekonštruovať, čo sa v AI systéme stalo a kto konal. Zahŕňa aj pôvod artefaktov.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri spornom rozhodnutí tím spätne vyhľadá verziu modelu, čas, vstupné údaje, prah, ľudskú úpravu a následné odvolanie. Logy majú retenčné a prístupové pravidlá a ich integritu chráni podpisovanie.

Overiteľnosť

Odborné zdroje

  1. W3C - PROV-O: The PROV Ontologyw3.org
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená auditná stopa?

Auditná stopa je chronologická a proti neoprávnenej zmene chránená evidencia udalostí, verzií, prístupov, vstupov, výstupov a schválení, ktorá umožňuje spätne rekonštruovať, čo sa v AI systéme stalo a kto konal.

Kedy sa auditná stopa používa?

Pri spornom rozhodnutí tím spätne vyhľadá verziu modelu, čas, vstupné údaje, prah, ľudskú úpravu a následné odvolanie.

Od čoho treba auditná stopa odlíšiť?

Bežný prevádzkový log môže slúžiť na ladenie; audit trail je navrhnutá evidencia s identitou, časom, integritou a retenčným účelom.

Ako sa auditná stopa kontroluje?

Testuje sa úplnosť udalostí, synchronizácia času, nemennosť, identita aktéra, väzba na verzie, prístupy, retencia a rekonštrukčný scenár.

Aké obmedzenie má auditná stopa?

Príliš rozsiahle logovanie môže samo porušiť súkromie a stopa je neúplná, ak sa ručné alebo externé kroky neevidujú.