Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

model typu biela skrinka

Anglický výraz white-box model

základnéheslo č. 11575 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená model typu biela skrinka?

Model typu biela skrinka je model, ktorého štruktúra, parametre a výpočet sú prístupné a dostatočne zrozumiteľné pre zamýšľané publikum, napríklad krátky rozhodovací strom alebo riedky lineárny model. Prístup ku kódu sám o sebe nestačí.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri prideľovaní nenárokovej pomoci organizácia použije krátky bodovací model s monotónnymi pravidlami. Odborníci dokážu prejsť celý výpočet a pravidlá sa zobrazia aj v odvolaní.

Overiteľnosť

Odborné zdroje

  1. Molnar - Interpretable Machine Learningchristophm.github.io
  2. NIST - Four Principles of Explainable Artificial Intelligencedoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená model typu biela skrinka?

Model typu biela skrinka je model, ktorého štruktúra, parametre a výpočet sú prístupné a dostatočne zrozumiteľné pre zamýšľané publikum, napríklad krátky rozhodovací strom alebo riedky lineárny model.

Kedy sa model typu biela skrinka používa?

Pri prideľovaní nenárokovej pomoci organizácia použije krátky bodovací model s monotónnymi pravidlami.

Od čoho treba model typu biela skrinka odlíšiť?

Open-source model môže byť stále čiernou skrinkou pre používateľa; white-box vyžaduje praktickú pochopiteľnosť mechanizmu.

Ako sa model typu biela skrinka kontroluje?

Overí sa počet pravidiel, interakcie, stabilita koeficientov, monotónnosť, úplný výpočet, používateľské porozumenie a výkon.

Aké obmedzenie má model typu biela skrinka?

Aj jednoduchý model môže používať nejasné alebo diskriminačné príznaky a jeho transparentnosť negarantuje správnosť či férovosť.