AI vzdelávanie/Bezplatný kurz 02

Bezplatný kurz 02

Etika AI

Desať kapitol o zodpovednosti, súkromí, spravodlivosti a kontrole AI. Praktické situácie, odborné zdroje a postupy nápravy. Celý kurz je zadarmo.

Začiatočník10 kapitolpribližne 67 min čítania10 kapitol Zadarmo
Začať prvou kapitolou
Rozhodovací rámecZodpovedná AI drží rovnováhu
01Prínos
02Férovosť
03Súkromie
04Ľudský dohľad

Technicky možné ešte nemusí znamenať spoločensky prijateľné.

Obsah okruhu

Učte sa krok za krokom.

10 / 10 spracovaných

Čo vás čaká

Desať kapitol o zodpovednosti, súkromí, spravodlivosti a kontrole AI. Praktické situácie, odborné zdroje a postupy nápravy. Celý kurz je zadarmo.

10 nadväzujúcich kapitolod vysvetlenia k použitiuodborné zdroje a FAQ

Kapitola 01 · 18 min čítania Zadarmo

Etika AI sa začína otázkou, koho môže zasiahnuť naše rozhodnutie. Rovnaký nástroj môže pomôcť upraviť pozvánku alebo poškodiť uchádzača o prácu. Rozdiel nie je iba v kvalite modelu, ale aj v účele, údajoch, kontrole a možnosti napraviť chybu. V tejto kapitole si ukážeme, ako tieto otázky posúdiť pred použitím AI.

Predstavme si vedúcu malej vzdelávacej firmy. Má päťdesiat prihlášok na kurz s obmedzenou kapacitou. Požiada AI, aby vybrala dvadsať najvhodnejších účastníkov. Znie to ako rozumná pomoc: nástroj prečíta texty rýchlejšie a vytvorí prehľadné poradie. Lenže čo znamená „najvhodnejší“? Človek, ktorý píše najpresvedčivejšie? Ten, kto má najdlhšiu prax? Alebo ten, komu vzdelávanie najviac pomôže? Ak tieto kritériá nikto neurčil, systém ich musí nahradiť vlastným odhadom. Môže uprednostniť uhladené formulácie pred skutočnou potrebou vzdelávania. Človek s dyslexiou alebo slabšou znalosťou slovenčiny tak môže dopadnúť horšie bez súvislosti s cieľom kurzu. Toto je modelová situácia, nie opis konkrétnej firmy. Ukazuje však dôležitý rozdiel: spracovať prihlášky a rozhodnúť o ľuďoch nie je tá istá úloha. AI môže bezpečne pripraviť tabuľku údajov, ak niekto skontroluje jej presnosť. Výber účastníkov potrebuje navyše zrozumiteľné pravidlá a zodpovednú osobu. Technická otázka znie: funguje systém dostatočne presne? Právna otázka znie: používame ho v súlade s platnými povinnosťami?

Ťažisko tvoria časti „Zhrnutie“, „Keď drobná úspora vytvorí väčší problém“ a „Etika, právo a technická kvalita“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Potrebuje malá firma etickú komisiu?“ Nie pri každej úlohe. Potrebuje však jasného vlastníka procesu, pravidlá používania a spôsob riešenia problémov. Rozsah kontroly má zodpovedať následkom použitia.

01Prečo vôbec potrebujeme etiku AIOtvoriť kapitolu zadarmo

Kapitola 02 · 19 min čítania Zadarmo

Veta „rozhodla AI“ nevysvetľuje, kto určil pravidlá, dovolil systému konať a prevzal jeho výsledok. Zodpovednosť treba rozlíšiť pri návrhu, nákupe aj každodennom používaní. Ukážeme si rozdelenie úloh, význam skutočného dohľadu a postup pri chybe. Konkrétnu právnu zodpovednosť však nemožno určiť bez okolností prípadu a príslušných predpisov.

V modelovej firme chatbot odpovie zákazníkovi, že má nárok na vrátenie peňazí aj po lehote uvedenej v obchodných podmienkach. Zamestnanec odpoveď prevezme a zákazník podľa nej koná. Kto urobil chybu? Možno firma vložila do znalostnej databázy staré pravidlá. Možno systém našiel správny dokument, ale nesprávne ho interpretoval. Možno zamestnanec vedel, že výstup treba preveriť, no nemal prístup k originálu. Jedna nesprávna odpoveď môže mať viac príčin. Zistenie príčiny nie je to isté ako právne určenie, kto nesie škodu. Pri používaní AI preto potrebujeme dve mapy. Prvá ukazuje pracovné povinnosti: kto aktualizuje dokumenty, kto testuje odpovede a kto rieši reklamácie. Druhá sa týka právnych povinností a závisí od druhu systému, zmlúv, spracúvania údajov a konkrétneho použitia. AI Act rozlišuje okrem iného poskytovateľa a nasadzujúci subjekt. Ich úlohy sa nedajú spoľahlivo odvodiť iba z toho, kto napísal softvér. Pri niektorých zmenách alebo spôsoboch uvedenia systému na trh sa môže postavenie subjektu zmeniť.

Ťažisko tvoria časti „Zhrnutie“, „Rozhodnutie má viac autorov“ a „Poskytovateľ a používajúca organizácia“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Prenesie súhlas používateľa celú zodpovednosť na neho?“ Nie je možné to všeobecne tvrdiť. Súhlas, zmluvné podmienky a zákonné povinnosti majú odlišný význam. Konkrétny prípad potrebuje právne posúdenie.

02Kto nesie zodpovednosť za rozhodnutia AIOtvoriť kapitolu zadarmo

Kapitola 03 · 4 min čítania Zadarmo

Pred vložením dokumentu do AI treba vedieť, čo obsahuje, prečo ho nástroj potrebuje a kto k nemu môže získať prístup. Vymazanie mena ešte nemusí znamenať anonymitu. Ukážeme si, ako obmedziť vstupy, rozlíšiť osobné údaje od iných dôverných informácií a pripraviť bezpečnejšiu pracovnú úlohu.

Administratívna pracovníčka chce zhrnúť zápisnicu. V dokumente sú mená, telefónne čísla, informácia o dlhodobej práceneschopnosti a plánovaná zmena pracovného miesta. Zo svojho pohľadu zadáva iba úlohu „urob stručné zhrnutie“. Z pohľadu ochrany údajov však odovzdáva viacero informácií o konkrétnych ľuďoch ďalšej službe. Ide o modelový príklad. Dôležitá otázka znie: potrebuje AI všetky tieto informácie na splnenie úlohy? Ak má pripraviť zoznam organizačných úloh, zdravotný údaj pravdepodobne nepotrebuje. Ani mená nemusia byť nevyhnutné - úlohy možno označiť pracovnými rolami a mená doplniť až v internom systéme. GDPR sa týka údajov o identifikovanej alebo identifikovateľnej fyzickej osobe. Človeka môže identifikovať aj kombinácia okolností. Informácia „jediná účtovníčka našej pobočky v malom meste“ môže byť výrečnejšia než samotné krstné meno. GDPR upravuje okrem iného minimalizáciu údajov, účelové obmedzenie a bezpečnosť spracúvania. Konkrétne použitie potrebuje primeraný právny základ. Zdravotné údaje patria medzi osobitné kategórie, pri ktorých sa posudzujú ďalšie podmienky. GDPR, najmä články 4, 5, 6 a 9.

Ťažisko tvoria časti „Zhrnutie“, „Čo sa skrýva v obyčajnom dokumente“ a „Osobný údaj nie je len meno“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Sú firemné údaje vždy mimo GDPR?“ Nie. Firemný dokument môže obsahovať údaje zamestnancov, zákazníkov alebo kontaktných osôb. Samotný názov právnickej osoby má iné postavenie než údaje o človeku.

03Dáta, súkromie a osobné informácieOtvoriť kapitolu zadarmo

Kapitola 04 · 4 min čítania Zadarmo

AI môže opakovať nerovnosti z dát aj vytvárať nové nerovnosti spôsobom, akým nastavíme úlohu. Dobrá priemerná presnosť neukáže všetky problémy. Naučíte sa odlíšiť chybu od systematického znevýhodnenia, sledovať výsledky pre rôzne skupiny a rozumieť tomu, prečo vymazanie jedného stĺpca nemusí stačiť.

Modelová firma triedi životopisy podľa podobnosti s profilmi svojich úspešných zamestnancov. V minulosti prijímala najmä absolventov niekoľkých škôl. Model si tento vzor osvojí a ostatných uchádzačov hodnotí slabšie. Na testovacích dátach môže vyzerať úspešne, pretože tie pochádzajú z rovnakého náborového procesu. Systém vtedy nemusí merať schopnosť vykonávať prácu. Môže merať podobnosť s ľuďmi, ktorí už prešli starým výberom. To je podstatný rozdiel. Ak sa z minulých rozhodnutí stane kritérium správnosti, minulé nerovnosti dostávajú technicky presvedčivú podobu. NIST pri AI rozlišuje systémové, výpočtové a štatistické a ľudské zdroje predpojatosti. Problém preto nie je iba vo vzorke dát, ale aj v organizácii a úsudkoch ľudí, ktorí nástroj vytvárajú či používajú. NIST SP 1270. Ak systém raz nesprávne prečíta číslo na faktúre, môže ísť o náhodnú chybu. Ak pravidelne zle spracúva dokumenty z určitého typu skenera, vidíme opakujúci sa vzor. Ak tento vzor znevýhodňuje určitú skupinu ľudí, treba skúmať aj spravodlivosť a možné diskriminačné dôsledky.

Ťažisko tvoria časti „Zhrnutie“, „Keď systém oceňuje nesprávnu vlastnosť“ a „Predpojatosť nie je to isté ako každá chyba“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Je AI automaticky objektívnejšia než človek?“ Nie. Používa údaje a pravidlá, ktoré vznikajú v ľudskom prostredí. Môže pomôcť pri konzistentnosti, ale môže aj dôsledne opakovať nesprávny vzor.

04Predpojatosť a diskriminácia v AIOtvoriť kapitolu zadarmo

Kapitola 05 · 4 min čítania Zadarmo

Plynulá odpoveď môže obsahovať nesprávne číslo, vymyslenú citáciu alebo záver, ktorý zdroj neuvádza. Naučíte sa rozlišovať fakt, interpretáciu a modelový príklad. Praktický postup overovania vás prevedie od tvrdenia k pôvodnému dokumentu a pomôže rozhodnúť, kedy výstup radšej nepoužiť.

Nástroj pripraví text o pracovnom práve. Uvedie názov rozhodnutia, súd, rok aj odkaz. Formálne je všetko na mieste. Pri otvorení odkazu sa však ukáže, že rozhodnutie neexistuje alebo rieši inú otázku. Nejde len o hypotetické riziko. V americkom prípade Mata v. Avianca súd v roku 2023 riešil podanie obsahujúce neexistujúce rozhodnutia vytvorené pomocou ChatGPT a uložil sankcie. Tento prípad nie je výkladom slovenského práva; ukazuje dôsledok prevzatia neoverených autorít do odbornej práce. Pôvodné rozhodnutie súdu z 22. júna 2023. Pri generatívnej AI tým bežne myslíme výstup, ktorý pôsobí ako pravdivý, ale nie je podložený alebo je nesprávny. Nemusí ísť o úplne vymyslený príbeh. Stačí nesprávny dátum, zamenené meno, neexistujúci paragraf či nepravdivé vysvetlenie skutočnej tabuľky. NIST vo svojom profile generatívnej AI používa termín confabulation a upozorňuje aj na chybné odôvodnenia a citácie. Presvedčivý štýl môže viesť človeka k tomu, že nesprávnu informáciu použije. NIST AI 600-1. Výstup nemusí byť nepravdivý úmyselne. Halucináciu preto nemožno automaticky označiť za dezinformáciu.

Ťažisko tvoria časti „Zhrnutie“, „Citácia, ktorá vyzerá dôveryhodne“ a „Čo označujeme slovom halucinácia“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Je odpoveď s odkazmi automaticky spoľahlivá?“ Nie. Odkaz môže byť neexistujúci, zastaraný alebo nemusí podporovať tvrdenie. Treba otvoriť konkrétny podklad.

05Pravdivosť, halucinácie a dezinformácieOtvoriť kapitolu zadarmo

Kapitola 06 · 4 min čítania Zadarmo

Pri obsahu vytvorenom pomocou AI treba oddeliť tri otázky: či smieme použiť vstup, čo povoľujú podmienky nástroja a či je výsledok chránený autorským právom. Platené predplatné tieto otázky automaticky nerieši. Na príklade firemného vizuálu si ukážeme, čo preveriť pred publikovaním a aké podklady si uchovať.

V modelovej vzdelávacej firme pripravuje pracovník banner. Do generátora vloží fotografiu z cudzieho webu a požiada o podobný obrázok s inými farbami. Výsledok vyzerá odlišne, no zachová výraznú kompozíciu a rozpoznateľnú tvár. Pracovník má platený účet a predpokladá, že tým získal všetky potrebné práva. Predplatné je vzťah s poskytovateľom nástroja. Samo osebe neudeľuje právo použiť cudziu fotografiu, podobizeň človeka ani ochrannú známku. Aj vtedy, keď služba povoľuje komerčné použitie výstupov, treba samostatne preveriť použité vstupy a výsledný obsah. Slovenský Autorský zákon vymedzuje autora ako fyzickú osobu, ktorá dielo vytvorila. Ochrana súvisí aj s podmienkami, ktoré musí dielo spĺňať. Pri práci s AI preto treba skúmať vlastný tvorivý prínos človeka, nie len existenciu súboru alebo počet zadaných pokynov. Autorský zákon, najmä § 3 a § 13. Nie je rozumné tvrdiť, že každý výstup AI je automaticky chránený, alebo naopak, že žiadny výsledok práce s AI nemôže byť chránený.

Ťažisko tvoria časti „Zhrnutie“, „Obrázok na web nie je iba obrázok“ a „Kto je autorom“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Znamená platený generátor právo na komerčné použitie?“ Závisí od podmienok produktu. Ani povolenie komerčného použitia však automaticky nerieši cudzie práva vo vstupoch a výstupe.

06Autorské práva a vlastníctvo obsahu vytvoreného AIOtvoriť kapitolu zadarmo

Kapitola 07 · 3 min čítania Zadarmo

Obraz a hlas už samy osebe nepotvrdzujú, kto niečo povedal alebo urobil. Pri podozrivom obsahu treba overovať pôvod, kontext a požadovanú akciu. Ukážeme si postup pri falošnej hlasovej žiadosti, hranice detektorov a rozdiel medzi označením syntetického obsahu a súhlasom dotknutej osoby.

Účtovníčke príde hlasová správa, ktorá znie ako riaditeľ. Žiada okamžitú platbu na nový účet a tvrdí, že práve nemôže telefonovať. Správa používa bežné oslovenie a zmieňuje skutočný projekt. Účtovníčka preto váha, či má platbu vykonať. Tento príklad je modelový. Nevyžaduje však, aby pracovníčka spoľahlivo rozpoznala syntetický hlas. Bezpečný postup je overiť pokyn cez nezávislý kontakt a dodržať schvaľovanie platby. Ak použije číslo dodané v podozrivej správe, môže sa spojiť s tým istým útočníkom. Deepfake označuje umelo vytvorený alebo upravený obrazový, zvukový či videoobsah, ktorý môže pôsobiť ako autentický záznam existujúcich osôb alebo udalostí. Syntetický obsah nemusí byť vždy podvodný: môže slúžiť filmu, dabingu alebo vzdelávaniu. Riziko vzniká najmä pri klamlivom použití identity a kontextu. Aj pravý záznam môže zavádzať. Staré video z inej krajiny možno vydávať za aktuálnu udalosť. Pri overovaní preto nestačí zisťovať, či bol súbor generovaný. Treba preveriť aj opis, dátum a tvrdenie, s ktorým sa šíri. Pri podozrivej žiadosti sledujte zmenu účtu, požadované utajenie, časový tlak a obchádzanie bežného procesu.

Ťažisko tvoria časti „Zhrnutie“, „Známy hlas žiada nezvyčajnú platbu“ a „Čo je deepfake“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Stačí hľadať chyby v rukách alebo pohybe pier?“ Nie. Viditeľné chyby môžu byť stopou, ale ich neprítomnosť nepotvrdzuje autenticitu.

07Deepfakes a manipulácia obsahuOtvoriť kapitolu zadarmo

Kapitola 08 · 4 min čítania Zadarmo

Transparentnosť znamená, že človek dostane potrebné informácie o použití AI. Vysvetliteľnosť sa týka pochopenia výsledku a jeho dôvodov. Nie je to to isté ako zverejnenie zdrojového kódu. Na príklade hodnotenia žiadosti si ukážeme, aké vysvetlenie je užitočné a prečo pekne napísané odôvodnenie nemusí verne opisovať fungovanie modelu.

Modelový účastník žiada o miesto na dotovanom kurze. Dostane odpoveď, že jeho žiadosť získala nízke skóre. Nevie, či chýbal dokument, nesplnil podmienku alebo systém zle prečítal prílohu. Bez tejto informácie nemôže chybu opraviť. Užitočná odpoveď rozlíši konkrétnu okolnosť: napríklad chýbajúce potvrdenie, použité kritérium a spôsob doplnenia podkladov. Ak výsledok pripravila AI, organizácia má vedieť opísať jej úlohu a dostupné možnosti preskúmania. Rozsah právnych povinností sa posudzuje podľa konkrétneho systému a situácie. Prvá informácia je, že bol použitý AI nástroj. Druhá vysvetľuje, akú úlohu mal: prepisoval, sumarizoval, odporúčal alebo vykonal akciu. Tretia sa týka konkrétneho výsledku: z akých podkladov a pravidiel vychádzal. Veta „používame AI“ poskytuje len prvú vrstvu. Technický zoznam modelov zase nemusí pomôcť človeku, ktorý potrebuje opraviť nesprávny údaj. Vysvetlenie má zodpovedať otázke adresáta, nie iba ukazovať technickú zložitosť systému. NIST rozlišuje poskytovanie vysvetlenia, jeho zmysluplnosť pre používateľa, vernosť vysvetlenia procesu a rešpektovanie hraníc znalostí systému.

Ťažisko tvoria časti „Zhrnutie“, „„Systém vás vyhodnotil“ nie je vysvetlenie“ a „Tri informácie, ktoré sa často zamieňajú“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Musí firma zverejniť celý zdrojový kód?“ Nie je to všeobecná požiadavka tejto kapitoly. Potrebné informácie závisia od účelu, adresáta a právnych povinností.

08Transparentnosť a vysvetliteľnosť AIOtvoriť kapitolu zadarmo

Kapitola 09 · 3 min čítania Zadarmo

Automatizácia úlohy nie je automaticky zánikom pracovného miesta. AI mení aj kontrolu, pracovné tempo a zodpovednosť. Na príklade administratívy si ukážeme, ako sledovať skutočnú úsporu, zapojiť pracovníkov a rozlišovať pomocný nástroj od neprimeraného hodnotenia ľudí.

V modelovej firme nástroj prepisuje faktúry. Predtým pracovníčka údaje zapisovala ručne, teraz kontroluje návrhy. Čas prepisovania klesne, ale pribudne riešenie nečitateľných dokladov, kontrola výnimiek a komunikácia pri chybách. Ak vedenie sleduje iba počet spracovaných faktúr, môže prehliadnuť novú záťaž. Pracovníčka už neopakuje jednu jednoduchú činnosť: rozhoduje o komplikovaných prípadoch, ktoré systém nezvládol. Zmena pracovnej náplne preto vyžaduje aj úpravu školenia, času na kontrolu a hodnotenia výkonu. Profesia obsahuje viac činností. AI môže pomôcť pripraviť návrh e-mailu, ale nenahradí tým celú prácu človeka, ktorý pozná zákazníka, rieši spory a nesie zodpovednosť za dohodu. ILO vo svojom indexe z roku 2025 skúma potenciálnu vystavenosť pracovných úloh generatívnej AI. Vystavenosť nie je predpoveďou počtu prepustených ľudí. Technická možnosť, náklady, organizácia práce a rozhodnutia zamestnávateľa ovplyvňujú skutočný výsledok. ILO: Generative AI and jobs, 2025 update. Pre malú firmu je preto užitočnejšia mapa konkrétnych činností než všeobecná otázka „ktoré povolanie zmizne“. Určte, čo môže nástroj pripraviť, čo musí niekto skontrolovať a čo zostáva rozhodnutím človeka. Porovnajte rovnaký druh práce pred zavedením a po zavedení nástroja.

Ťažisko tvoria časti „Zhrnutie“, „Ušetrený čas niekto musí prevziať“ a „Úloha a profesia nie sú to isté“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Znamená vysoká vystavenosť AI zánik pracovného miesta?“ Nie. Ukazuje potenciálny zásah do úloh, nie istý výsledok na trhu práce.

09AI na pracovisku a jej vplyv na ľudíOtvoriť kapitolu zadarmo

Kapitola 10 · 4 min čítania Zadarmo

AI governance znamená riadenie používania AI: kto rozhoduje, čo je dovolené, ako sa preveruje kvalita a čo sa deje pri probléme. Malá organizácia nepotrebuje kopírovať dokumentáciu veľkej korporácie. Potrebuje však funkčné pravidlá, vlastníkov procesov a kontroly, ktoré sa naozaj vykonávajú.

V modelovej firme administrátorka vie, ktorý nástroj je schválený, čo sa doň môže vkladať a komu hlásiť chyby. Ostatní sa jej pýtajú podľa potreby. Keď odíde na dovolenku, kolega použije osobný účet a nahrá celý zákaznícky zoznam. Problém nie je iba v jeho rozhodnutí. Firma nemala dostupné pravidlá ani jasný pracovný postup. Riadenie AI má znížiť závislosť od pamäti jednotlivca a umožniť bezpečne pracovať aj pri personálnej zmene. Rámec NIST AI RMF organizuje riadenie rizík do funkcií Govern, Map, Measure a Manage. Ide o dobrovoľný odborný rámec, nie certifikát ani náhradu za povinnosti podľa európskeho práva. NIST: AI RMF Core. Pre úvodné použitie si ich môžeme vysvetliť prakticky: nastaviť zodpovednosť, pochopiť konkrétne použitie, preveriť výsledky a riešiť zistené riziká. Nie je to jednorazový projekt. Po zmene nástroja, údajov alebo účelu sa k posúdeniu vraciame. Zapíšte používaný nástroj, konkrétnu úlohu, vlastníka procesu, povolené údaje a spôsob kontroly. Rozlišujte osobný experiment s vymyslenými údajmi od pracovného nasadenia so zákazníckymi dokumentmi.

Ťažisko tvoria časti „Zhrnutie“, „Keď pravidlá pozná iba jeden človek“ a „Štyri činnosti, ktoré sa opakujú“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť vysvetliť tému na konkrétnom príklade a porozumieť postupu a jeho praktickým dôsledkom. Praktickým výsledkom bude schopnosť rozpoznať hranice použitia a potrebnú kontrolu.

Kapitola odpovedá aj na otázku „Potrebuje malá firma rozsiahlu smernicu?“ Nie vždy. Rozsah dokumentácie a kontrol má zodpovedať použitiu a povinnostiam. Krátke vykonateľné pravidlá sú užitočnejšie než neudržiavaný všeobecný dokument.

10Zodpovedná AI a AI governanceOtvoriť kapitolu zadarmo