Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

skreslenie

Anglický výraz bias

základnéheslo č. 10665 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená skreslenie?

Skreslenie je systematická odchýlka v dátach, meraní, odhade alebo rozhodovaní, ktorá posúva výsledky od zamýšľanej referencie. V AI môže byť štatistické, kognitívne alebo spoločenské; samotná existencia štatistického biasu ešte neurčuje etickú nespravodlivosť.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím pri poklese výkonu nerozhodne, že model je zaujatý bez diagnózy. Oddelí chybu vzorkovania, merania, historických rozhodnutí, algoritmu a hodnotenia a ku každej príčine navrhne inú kontrolu.

Overiteľnosť

Odborné zdroje

  1. NIST - AI Risk Management Framework 1.0doi.org
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená skreslenie?

Skreslenie je systematická odchýlka v dátach, meraní, odhade alebo rozhodovaní, ktorá posúva výsledky od zamýšľanej referencie.

Kedy sa skreslenie používa?

Tím pri poklese výkonu nerozhodne, že model je zaujatý bez diagnózy.

Od čoho treba skreslenie odlíšiť?

Variancia je citlivosť na náhodnú vzorku; bias je systematický posun očakávaného výsledku.

Ako sa skreslenie kontroluje?

Porovná sa návrh zberu, reprezentácia populácie, meracie pravidlá, rezíduá, skupinové chyby a rozhodovacie procesy.

Aké obmedzenie má skreslenie?

Slovo bias sa používa pre rôzne javy; bez uvedenia referencie a mechanizmu môže viesť k nesprávnej náprave.