Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

zmierňovanie skreslenia

Anglický výraz bias mitigation

pokročiléheslo č. 10765 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zmierňovanie skreslenia?

Zmierňovanie skreslenia je cielený zásah do dát, učenia, rozhodovacieho prahu alebo procesu s cieľom znížiť identifikovanú systematickú odchýlku či nespravodlivý dopad. Musí pomenovať mechanizmus, metriku úspechu a možné vedľajšie účinky.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Po zistení vyššej chybovosti tím neopraví iba váhy dát. Preverí kvalitu merania, doplní chýbajúce prípady, upraví cieľ a porovná predspracovanie, obmedzenie učenia aj následné prahy.

Overiteľnosť

Odborné zdroje

  1. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená zmierňovanie skreslenia?

Zmierňovanie skreslenia je cielený zásah do dát, učenia, rozhodovacieho prahu alebo procesu s cieľom znížiť identifikovanú systematickú odchýlku či nespravodlivý dopad.

Kedy sa zmierňovanie skreslenia používa?

Po zistení vyššej chybovosti tím neopraví iba váhy dát.

Od čoho treba zmierňovanie skreslenia odlíšiť?

Detekcia skreslenia opisuje problém; mitigation mení systém alebo proces a vyžaduje nové hodnotenie.

Ako sa zmierňovanie skreslenia kontroluje?

Pred a po zásahu sa merajú cieľové aj ochranné metriky, výkon, kalibrácia, podskupiny, stabilita a dopad v prevádzke.

Aké obmedzenie má zmierňovanie skreslenia?

Zlepšenie jednej parity môže zhoršiť inú vlastnosť alebo skryť pôvodnú organizačnú príčinu technickou úpravou.