Presná definícia
Čo znamená vysvetliteľnosť?
Vysvetliteľnosť je schopnosť AI systému podať informáciu, ktorá primerane odpovedá na konkrétnu otázku o jeho výstupe, procese alebo hraniciach. Vysvetlenie musí byť pravdivé voči systému, zrozumiteľné adresátovi a dostatočné pre zamýšľaný krok.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Klient sa pýta, prečo bola žiadosť zamietnutá. Systém uvedie rozhodujúce overiteľné faktory, prah, neistotu a postup opravy údajov alebo odvolania bez odhalenia údajov iných ľudí.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená vysvetliteľnosť?
Vysvetliteľnosť je schopnosť AI systému podať informáciu, ktorá primerane odpovedá na konkrétnu otázku o jeho výstupe, procese alebo hraniciach.
Kedy sa vysvetliteľnosť používa?
Klient sa pýta, prečo bola žiadosť zamietnutá.
Od čoho treba vysvetliteľnosť odlíšiť?
Transparentnosť sprístupňuje informácie o systéme všeobecne; explainability odpovedá na konkrétnu otázku o správaní či výsledku.
Ako sa vysvetliteľnosť kontroluje?
Testuje sa vecná správnosť, vernosť, relevantnosť, porozumenie, schopnosť nájsť chybu a primeranosť pre rôzne publikum.
Aké obmedzenie má vysvetliteľnosť?
Jedno univerzálne vysvetlenie môže byť pre expertov plytké, pre používateľov nezrozumiteľné a pre útočníka príliš podrobné.