Presná definícia
Čo znamená automatizačné skreslenie?
Automatizačné skreslenie je tendencia ľudí nadmerne prijímať odporúčanie automatizovaného systému a zanedbať rozporné informácie alebo vlastný úsudok. Vzniká aj pri deklarovanom ľudskom dohľade, ak rozhranie, časový tlak či zodpovednosť podporujú pasívne potvrdenie.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri kontrole žiadostí rozhranie najprv zobrazí dôkazy a až potom odporúčanie modelu. Organizácia meria mieru prepisu, chyby po prijatí odporúčania a prípady, keď používateľ ignoroval varovný údaj.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená automatizačné skreslenie?
Automatizačné skreslenie je tendencia ľudí nadmerne prijímať odporúčanie automatizovaného systému a zanedbať rozporné informácie alebo vlastný úsudok.
Kedy sa automatizačné skreslenie používa?
Pri kontrole žiadostí rozhranie najprv zobrazí dôkazy a až potom odporúčanie modelu.
Od čoho treba automatizačné skreslenie odlíšiť?
Automation bias je nadmerné spoliehanie sa; averzia k algoritmu je opačná tendencia odmietať systém aj po preukázanej užitočnosti.
Ako sa automatizačné skreslenie kontroluje?
Testuje sa správanie používateľov v realistickom čase, poradie informácií, možnosť nesúhlasu, školenie a kvalita prepisov.
Aké obmedzenie má automatizačné skreslenie?
Formálne tlačidlo na potvrdenie nevytvára účinný dohľad, ak človek nemá čas, informácie alebo právomoc rozhodnúť inak.