Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

algoritmické skreslenie

Anglický výraz algorithmic bias

základnéheslo č. 10675 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená algoritmické skreslenie?

Algoritmické skreslenie je systematický vzorec výstupov algoritmu, ktorý neodôvodnene zvýhodňuje, znevýhodňuje alebo chybne reprezentuje určité prípady či skupiny. Môže vzniknúť z cieľa, dát, príznakov, optimalizácie, prahu alebo integrácie do procesu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Model oceňovania systematicky podhodnocuje jednu lokalitu. Tím preverí proxy premenné, kvalitu transakcií, stratovú funkciu a rozhodovacie prahy a zmeria dopad po oprave v celej distribúcii.

Overiteľnosť

Odborné zdroje

  1. NIST - AI Risk Management Framework 1.0doi.org
  2. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io

Praktické odpovede

Často kladené otázky

Čo presne znamená algoritmické skreslenie?

Algoritmické skreslenie je systematický vzorec výstupov algoritmu, ktorý neodôvodnene zvýhodňuje, znevýhodňuje alebo chybne reprezentuje určité prípady či skupiny.

Kedy sa algoritmické skreslenie používa?

Model oceňovania systematicky podhodnocuje jednu lokalitu.

Od čoho treba algoritmické skreslenie odlíšiť?

Dataset bias opisuje problém vstupných dát; algoritmické skreslenie pomenúva systematické správanie výsledného výpočtového rozhodnutia.

Ako sa algoritmické skreslenie kontroluje?

Audit reprodukuje rozdiely, kontroluje segmenty a kontrastné páry, hľadá kauzálny mechanizmus a testuje zásah mimo tréningovej vzorky.

Aké obmedzenie má algoritmické skreslenie?

Zníženie jednej skupinovej medzery môže zhoršiť kalibráciu, individuálne prípady alebo iné prienikové skupiny.