Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

transparentnosť

Anglický výraz transparency

základnéheslo č. 11545 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená transparentnosť?

Transparentnosť v AI je primerané sprístupnenie informácií o účele, fungovaní, dátach, zodpovednostiach, obmedzeniach a dopadoch systému. Neznamená zverejniť všetko; obsah a detail sa prispôsobujú právam, riziku, publiku a bezpečnosti.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Úrad zverejní, že používa AI, na čo vplýva, aké údaje spracúva, kto rozhoduje, ako sa odvolať a aké sú známe chybovosti. Audítor dostane detailnejšie dôkazy než verejná karta.

Overiteľnosť

Odborné zdroje

  1. European Commission - Ethics Guidelines for Trustworthy AIdigital-strategy.ec.europa.eu
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená transparentnosť?

Transparentnosť v AI je primerané sprístupnenie informácií o účele, fungovaní, dátach, zodpovednostiach, obmedzeniach a dopadoch systému.

Kedy sa transparentnosť používa?

Úrad zverejní, že používa AI, na čo vplýva, aké údaje spracúva, kto rozhoduje, ako sa odvolať a aké sú známe chybovosti.

Od čoho treba transparentnosť odlíšiť?

Open source sprístupňuje kód; transparency zahŕňa aj dáta, proces, vlastníctvo, účel a reálne výsledky, ktoré kód neukáže.

Ako sa transparentnosť kontroluje?

Kontroluje sa úplnosť a aktuálnosť zverejnení, dohľadateľnosť tvrdení, pochopenie publikom, výnimky a väzba na nápravu.

Aké obmedzenie má transparentnosť?

Záplava technických dokumentov môže formálne zvýšiť otvorenosť, no prakticky skryť dôležité obmedzenie alebo zodpovednosť.