Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

záznam rozhodnutia

Anglický výraz decision trace

špecializovanéheslo č. 11995 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená záznam rozhodnutia?

Záznam rozhodnutia je konkrétny súbor dôkazov, ktorý spája vstup, verziu modelu a pravidiel, medzivýsledky, prah, ľudský zásah a konečný výsledok jednej rozhodovacej udalosti. Slúži na preskúmanie prípadu, odvolanie a diagnostiku.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri zamietnutej žiadosti systém uchová hodnoty použité v čase rozhodnutia, modelový výstup, aplikované pravidlo a identitu schvaľovateľa. Neskoršia zmena databázy neprepíše historický stav.

Overiteľnosť

Odborné zdroje

  1. W3C - PROV-O: The PROV Ontologyw3.org
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená záznam rozhodnutia?

Záznam rozhodnutia je konkrétny súbor dôkazov, ktorý spája vstup, verziu modelu a pravidiel, medzivýsledky, prah, ľudský zásah a konečný výsledok jednej rozhodovacej udalosti.

Kedy sa záznam rozhodnutia používa?

Pri zamietnutej žiadosti systém uchová hodnoty použité v čase rozhodnutia, modelový výstup, aplikované pravidlo a identitu schvaľovateľa.

Od čoho treba záznam rozhodnutia odlíšiť?

Audit trail eviduje široký tok udalostí; decision trace vyberá a prepája udalosti potrebné na rekonštrukciu jedného výsledku.

Ako sa záznam rozhodnutia kontroluje?

Overí sa deterministická rekonštrukcia, snapshot vstupov, verzia, prah, ľudská úprava, čas, integrita a väzba na odvolanie.

Aké obmedzenie má záznam rozhodnutia?

Trace môže odhaliť citlivé údaje alebo obchodné tajomstvá a nemusí vysvetliť rozhodnutie, ak iba uloží technické identifikátory.