Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

zmierňovanie pred spracovaním

Anglický výraz pre-processing mitigation

pokročiléheslo č. 10775 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zmierňovanie pred spracovaním?

Zmierňovanie pred spracovaním upravuje tréningové dáta alebo ich reprezentáciu ešte pred učením modelu, napríklad prevážením, cieleným doplnením či opravou štítkov. Výsledný model môže zostať nezmenený, no zásah mení distribúciu, z ktorej sa učí.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím zistí nedostatočné zastúpenie jednej skupiny a vytvorí stratifikovaný doplnkový zber. Prevzorkovanie porovná s opravou chybne meraného cieľa a každú úpravu zdokumentuje.

Overiteľnosť

Odborné zdroje

  1. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená zmierňovanie pred spracovaním?

Zmierňovanie pred spracovaním upravuje tréningové dáta alebo ich reprezentáciu ešte pred učením modelu, napríklad prevážením, cieleným doplnením či opravou štítkov.

Kedy sa zmierňovanie pred spracovaním používa?

Tím zistí nedostatočné zastúpenie jednej skupiny a vytvorí stratifikovaný doplnkový zber.

Od čoho treba zmierňovanie pred spracovaním odlíšiť?

In-processing mení optimalizáciu modelu; pre-processing mení vstupné dáta pred tréningom.

Ako sa zmierňovanie pred spracovaním kontroluje?

Kontrolujú sa váhy a počty, zachovanie významu, únik informácií, kvalita syntetických príkladov a výsledky na nedotknutom teste.

Aké obmedzenie má zmierňovanie pred spracovaním?

Mechanické vyváženie počtov môže zosilniť nekvalitné štítky alebo vytvoriť distribúciu, ktorá nezodpovedá prevádzke.