Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

akcieschopné vysvetlenie

Anglický výraz actionable explanation

špecializovanéheslo č. 11935 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená akcieschopné vysvetlenie?

Akcieschopné vysvetlenie poskytuje človeku pravdivú a uskutočniteľnú informáciu o tom, čo môže overiť, opraviť, doplniť alebo napadnúť a aký postup môže ovplyvniť budúci výsledok. Nesmie odporúčať meniť nemenné či neprípustné vlastnosti.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri zamietnutí systém označí chybný príjem, uvedie potrebný doklad, kontakt na opravu a nezávislé odvolanie. Ak model nevie garantovať zmenu výsledku, uvedie to namiesto sľubu.

Overiteľnosť

Odborné zdroje

  1. Wachter, Mittelstadt & Russell - Counterfactual Explanations without Opening the Black Boxarxiv.org
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená akcieschopné vysvetlenie?

Akcieschopné vysvetlenie poskytuje človeku pravdivú a uskutočniteľnú informáciu o tom, čo môže overiť, opraviť, doplniť alebo napadnúť a aký postup môže ovplyvniť budúci výsledok.

Kedy sa akcieschopné vysvetlenie používa?

Pri zamietnutí systém označí chybný príjem, uvedie potrebný doklad, kontakt na opravu a nezávislé odvolanie.

Od čoho treba akcieschopné vysvetlenie odlíšiť?

Counterfactual opisuje zmenu predikcie; actionable explanation pridáva realizovateľnosť, oprávnenie, postup a neistotu výsledku.

Ako sa akcieschopné vysvetlenie kontroluje?

Overí sa správnosť kroku v systéme, realizovateľnosť, náklady pre človeka, stabilita v čase, zákaz chránených zmien a úspech nápravy.

Aké obmedzenie má akcieschopné vysvetlenie?

Rada môže preniesť bremeno na človeka, ktorý príčinu nevytvoril, alebo viesť k strategickému správaniu bez reálneho prínosu.