Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

reprezentačné skreslenie

Anglický výraz representation bias

pokročiléheslo č. 10725 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená reprezentačné skreslenie?

Reprezentačné skreslenie je nedostatočné alebo nerovnomerné zastúpenie častí cieľovej populácie, prostredí či prípadov v datasete. Model potom dostáva menej príležitostí naučiť sa ich vlastnosti a jeho priemerný výkon môže problém skryť.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Systém rozpoznávania reči má málo nahrávok starších hovoriacich a hlučných miestností. Tím doplní vzorku podľa vopred stanovenej mapy pokrytia a meria chybovosť v každom prostredí.

Overiteľnosť

Odborné zdroje

  1. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená reprezentačné skreslenie?

Reprezentačné skreslenie je nedostatočné alebo nerovnomerné zastúpenie častí cieľovej populácie, prostredí či prípadov v datasete.

Kedy sa reprezentačné skreslenie používa?

Systém rozpoznávania reči má málo nahrávok starších hovoriacich a hlučných miestností.

Od čoho treba reprezentačné skreslenie odlíšiť?

Selection bias vysvetľuje mechanizmus výberu; representation bias opisuje výslednú medzeru v pokrytí dát.

Ako sa reprezentačné skreslenie kontroluje?

Kontrolujú sa počty, kvalita a rozmanitosť príkladov podľa populácie, času, zariadenia, prostredia a zriedkavých javov.

Aké obmedzenie má reprezentačné skreslenie?

Rovnaký počet príkladov nezaručí rovnakú informačnú hodnotu, ak jedna skupina obsahuje menej variabilné alebo horšie údaje.