Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

rozdielny dopad

Anglický výraz disparate impact

základnéheslo č. 10635 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená rozdielny dopad?

Rozdielny dopad označuje situáciu, keď zdanlivo neutrálne pravidlo alebo model vedie k neprimerane nepriaznivému výsledku pre chránenú skupinu. Posudzuje výsledok procesu, aj keď nebol preukázaný úmysel diskriminovať.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Firma zistí, že filter pracovnej histórie výrazne znižuje postup jednej skupiny. Preskúma vecnú nevyhnutnosť kritéria, alternatívy s menším dopadom a celý náborový lievik, nie iba skóre modelu.

Overiteľnosť

Odborné zdroje

  1. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org
  2. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io

Praktické odpovede

Často kladené otázky

Čo presne znamená rozdielny dopad?

Rozdielny dopad označuje situáciu, keď zdanlivo neutrálne pravidlo alebo model vedie k neprimerane nepriaznivému výsledku pre chránenú skupinu.

Kedy sa rozdielny dopad používa?

Firma zistí, že filter pracovnej histórie výrazne znižuje postup jednej skupiny.

Od čoho treba rozdielny dopad odlíšiť?

Rozdielne zaobchádzanie používa chránenú vlastnosť priamo; disparate impact môže vzniknúť aj z neutrálne formulovaného pravidla.

Ako sa rozdielny dopad kontroluje?

Kontroluje sa správna porovnávacia populácia, miera výberu, výberový pomer, neistota, kvalifikácia a dostupné alternatívy.

Aké obmedzenie má rozdielny dopad?

Jednoduchý pomer bez právneho a procesného kontextu nepreukazuje príčinu ani automaticky neurčuje porušenie.