Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

prototypové vysvetlenie

Anglický výraz prototype explanation

pokročiléheslo č. 11745 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená prototypové vysvetlenie?

Prototypové vysvetlenie používa typický alebo reprezentatívny príklad triedy či regiónu dát, aby ukázalo, k akému naučenému vzoru sa model približuje. Prototyp môže byť skutočný medoid alebo syntetická reprezentácia a nemá sa zamieňať za priemerného človeka.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model obrazov ukáže niekoľko rôznorodých prototypov každej triedy a vzdialenosť hodnoteného vstupu. Tím kontroluje, či prototypy pokrývajú podtypy a neobsahujú identifikovateľné tréningové dáta.

Overiteľnosť

Odborné zdroje

  1. Molnar - Interpretable Machine Learningchristophm.github.io
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená prototypové vysvetlenie?

Prototypové vysvetlenie používa typický alebo reprezentatívny príklad triedy či regiónu dát, aby ukázalo, k akému naučenému vzoru sa model približuje.

Kedy sa prototypové vysvetlenie používa?

Model obrazov ukáže niekoľko rôznorodých prototypov každej triedy a vzdialenosť hodnoteného vstupu.

Od čoho treba prototypové vysvetlenie odlíšiť?

Exemplar môže byť akýkoľvek ilustračný príklad; prototype má reprezentovať centrálny alebo naučený typický vzor.

Ako sa prototypové vysvetlenie kontroluje?

Kontroluje sa spôsob výberu, pokrytie podtypov, stabilita, vzdialenosť, vernosť rozhodnutiu, súkromie a odborná zrozumiteľnosť.

Aké obmedzenie má prototypové vysvetlenie?

Jeden prototyp môže vymazať rozmanitosť triedy, posilniť stereotyp a zle vysvetliť hraničný či netypický prípad.