Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

vysvetlenie pomocou príkladov

Anglický výraz example-based explanation

pokročiléheslo č. 11735 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená vysvetlenie pomocou príkladov?

Vysvetlenie pomocou príkladov objasňuje predikciu prostredníctvom relevantných tréningových, referenčných alebo syntetických prípadov, napríklad najbližších susedov, prototypov či kontrastov. Podobnosť a pôvod príkladov musia byť zrozumiteľné.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri reklamácii systém ukáže anonymizované podobné prípady s rovnakým aj opačným výsledkom a vysvetlí, podľa ktorých legitímnych vlastností sa podobajú. Prístup rešpektuje súkromie a licenciu dát.

Overiteľnosť

Odborné zdroje

  1. Molnar - Interpretable Machine Learningchristophm.github.io
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená vysvetlenie pomocou príkladov?

Vysvetlenie pomocou príkladov objasňuje predikciu prostredníctvom relevantných tréningových, referenčných alebo syntetických prípadov, napríklad najbližších susedov, prototypov či kontrastov.

Kedy sa vysvetlenie pomocou príkladov používa?

Pri reklamácii systém ukáže anonymizované podobné prípady s rovnakým aj opačným výsledkom a vysvetlí, podľa ktorých legitímnych vlastností sa podobajú.

Od čoho treba vysvetlenie pomocou príkladov odlíšiť?

Nearest-neighbor predikcia používa susedov na výpočet výsledku; example-based explanation ich môže použiť len na objasnenie iného modelu.

Ako sa vysvetlenie pomocou príkladov kontroluje?

Overí sa metrika podobnosti, reprezentatívnosť, rozmanitosť, pôvod, správnosť štítkov, ochrana identity a vernosť modelu.

Aké obmedzenie má vysvetlenie pomocou príkladov?

Najbližší príklad môže byť zavádzajúci v latentnom priestore a zobrazenie tréningového záznamu môže odhaliť osobné údaje.