Kedy AI dôverovať a kedy nie: praktický rámec pre zodpovedné rozhodnutie

Dôvera nepatrí logu ani plynulému štýlu. Patrí konkrétnej úlohe, verzii systému a dôkazom, že jeho kontroly zodpovedajú závažnosti, vratnosti, overiteľnosti, citlivosti dát a miere autonómie.

Otázka „môžem dôverovať tejto AI?“ je príliš široká. Tomu istému modelu možno primerane dôverovať pri návrhu desiatich titulkov a zároveň mu neslobodno prenechať rozhodnutie o diagnóze alebo prevode peňazí. Dôvera patrí konkrétnemu systému, úlohe, dôkazom a následku - nie značke. Model môže mať vysokú presnosť na testovacej množine a napriek tomu byť nevhodný pre konkrétne rozhodnutie. Dôveryhodnosť systému zahŕňa viac charakteristík. NIST uvádza validitu a spoľahlivosť, bezpečnosť, security a odolnosť, zodpovednosť a transparentnosť, vysvetliteľnosť, ochranu súkromia a riadenie škodlivého skreslenia. Tieto vlastnosti sa musia vyvažovať podľa kontextu. Presný systém, ktorý neoprávnene zverejní zdravotný údaj, nie je dôveryhodný. Súkromný systém, ktorý systematicky diskriminuje, tiež nie. Dôvera preto nevzniká jedným skóre. Najpresnejšia otázka znie: Je táto verzia systému pri tejto úlohe, s týmito dátami a kontrolami dostatočne spoľahlivá vzhľadom na následok chyby? Čo sa stane, ak je výstup nesprávny? Chybný návrh sloganu môže stáť čas. Chybná dávka lieku, právna lehota alebo odmietnutý úver môže poškodiť zdravie, práva či financie. Dá sa chyba lacno vrátiť?

Ťažisko tvoria časti „Dôvera je vlastnosť vzťahu a použitia“, „Päť osí rozhodnutia“ a „Zelená, žltá a červená zóna“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť zaradiť použitie AI do zelenej, žltej alebo červenej zóny a zvoliť primeraný stupeň nezávislého overenia. Praktickým výsledkom bude schopnosť nastaviť stop pravidlá, ľudský dohľad a dôkazový záznam.

Kapitola odpovedá aj na otázku „Kedy možno výstup AI použiť s jednoduchou kontrolou?“ Pri nízkom dopade, vysokej vratnosti a ľahkom overení - napríklad pri brainstormingu alebo prvom návrhu textu, ktorý človek pred použitím prečíta.