Presná definícia
Čo znamená ľudský dohľad?
Ľudský dohľad je súbor organizačných a technických opatrení, ktoré oprávnenej osobe umožnia rozumieť možnostiam a limitom AI, sledovať jej prevádzku, správne interpretovať výstup a podľa rizika ho ignorovať, zvrátiť alebo systém bezpečne zastaviť.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri vysokorizikovom systéme organizácia určí vyškoleného dohliadajúceho, zobrazí neistotu a relevantné podklady, nastaví eskaláciu a otestuje, či má človek reálny čas a právomoc zasiahnuť.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená ľudský dohľad?
Ľudský dohľad je súbor organizačných a technických opatrení, ktoré oprávnenej osobe umožnia rozumieť možnostiam a limitom AI, sledovať jej prevádzku, správne interpretovať výstup a podľa rizika ho ignorovať, zvrátiť alebo systém bezpečne zastaviť.
Kedy sa ľudský dohľad používa?
Pri vysokorizikovom systéme organizácia určí vyškoleného dohliadajúceho, zobrazí neistotu a relevantné podklady, nastaví eskaláciu a otestuje, či má človek reálny čas a právomoc zasiahnuť.
Od čoho treba ľudský dohľad odlíšiť?
Human-in-the-loop môže označovať jediný krok schválenia. Ľudský dohľad zahŕňa širšie kompetencie, rozhranie, monitoring, zásah a zodpovednosť.
Ako sa ľudský dohľad kontroluje?
Overuje sa kompetencia, nezávislosť, informácie, čas, pracovná záťaž, právomoc prebiť výstup, dostupnosť stop mechanizmu a záznam zásahov.
Aké obmedzenie má ľudský dohľad?
Prítomnosť človeka sama nestačí: automation bias, nejasné rozhranie alebo sankcia za zásah môžu z dohľadu urobiť formálne potvrdenie.