Slovník výrazov AI/Zodpovedná AI a férovosť

Zodpovedná AI a férovosť

zmierňovanie po spracovaní

Anglický výraz post-processing mitigation

pokročiléheslo č. 10795 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená zmierňovanie po spracovaní?

Zmierňovanie po spracovaní upravuje skóre alebo rozhodnutia už natrénovaného modelu, napríklad skupinovými prahmi, kalibráciou alebo náhodným preklopením. Nezmení pôvodné dáta ani parametre, ale mení pravidlo konečného rozhodnutia.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Organizácia po právnom posúdení porovná spoločný a skupinovo upravený prah. Simuluje chyby, objem zásahov, kalibráciu a správanie pri zmene prevalencie a zachová možnosť vrátiť sa k pôvodnej politike.

Overiteľnosť

Odborné zdroje

  1. IBM AI Fairness 360 - Fairness metricsaif360.readthedocs.io
  2. Barocas, Hardt & Narayanan - Fairness and Machine Learningfairmlbook.org

Praktické odpovede

Často kladené otázky

Čo presne znamená zmierňovanie po spracovaní?

Zmierňovanie po spracovaní upravuje skóre alebo rozhodnutia už natrénovaného modelu, napríklad skupinovými prahmi, kalibráciou alebo náhodným preklopením.

Kedy sa zmierňovanie po spracovaní používa?

Organizácia po právnom posúdení porovná spoločný a skupinovo upravený prah.

Od čoho treba zmierňovanie po spracovaní odlíšiť?

Pre-processing mení dáta a in-processing učenie; post-processing zasahuje až do výstupu hotového modelu.

Ako sa zmierňovanie po spracovaní kontroluje?

Kontroluje sa implementácia prahov, dostupnosť skupiny pri inferencii, výkon na nových dátach, kalibrácia, zákonnosť a monitoring.

Aké obmedzenie má zmierňovanie po spracovaní?

Skupinovo odlišné pravidlá môžu byť právne alebo eticky sporné a bez opravy príčiny zostávajú citlivé na posun dát.