Zodpovedná AI a AI governance

Zhrnutie

AI governance znamená riadenie používania AI: kto rozhoduje, čo je dovolené, ako sa preveruje kvalita a čo sa deje pri probléme. Malá organizácia nepotrebuje kopírovať dokumentáciu veľkej korporácie. Potrebuje však funkčné pravidlá, vlastníkov procesov a kontroly, ktoré sa naozaj vykonávajú.

Keď pravidlá pozná iba jeden človek

V modelovej firme administrátorka vie, ktorý nástroj je schválený, čo sa doň môže vkladať a komu hlásiť chyby. Ostatní sa jej pýtajú podľa potreby. Keď odíde na dovolenku, kolega použije osobný účet a nahrá celý zákaznícky zoznam.

Problém nie je iba v jeho rozhodnutí. Firma nemala dostupné pravidlá ani jasný pracovný postup. Riadenie AI má znížiť závislosť od pamäti jednotlivca a umožniť bezpečne pracovať aj pri personálnej zmene.

Štyri činnosti, ktoré sa opakujú

Rámec NIST AI RMF organizuje riadenie rizík do funkcií Govern, Map, Measure a Manage. Ide o dobrovoľný odborný rámec, nie certifikát ani náhradu za povinnosti podľa európskeho práva. NIST: AI RMF Core.

Pre úvodné použitie si ich môžeme vysvetliť prakticky: nastaviť zodpovednosť, pochopiť konkrétne použitie, preveriť výsledky a riešiť zistené riziká. Nie je to jednorazový projekt. Po zmene nástroja, údajov alebo účelu sa k posúdeniu vraciame.

💡 Jednoducho: governance je odpoveď na otázku, kto urobí čo pred použitím AI, počas neho a po chybe. Dokument bez vykonávanej kontroly túto úlohu nesplní.

Začnite registrom použití

Zapíšte používaný nástroj, konkrétnu úlohu, vlastníka procesu, povolené údaje a spôsob kontroly. Rozlišujte osobný experiment s vymyslenými údajmi od pracovného nasadenia so zákazníckymi dokumentmi.

Pri modelovom chatbotovi registračný záznam môže uvádzať: odpovede z verejných pravidiel kurzov, bez prístupu k platbám a bez právomoci priznať výnimku. Vlastník kontroluje znalostné podklady, správca sleduje prístupy a pracovník podpory rieši sporné prípady.

Ak nikto nevie, ktoré nástroje tím používa, firma nevie primerane posúdiť ani údaje a riziká. Register nemá slúžiť na trestanie experimentovania. Má umožniť odlíšiť bezpečné skúšanie od nepovoleného odovzdávania údajov.

Krátke pravidlá s konkrétnym významom

Namiesto vety „používajte AI zodpovedne“ uveďte povolené nástroje a vstupy. Definujte, ktoré úlohy potrebujú schválenie. Napíšte, čo sa nesmie vykonať automaticky, ako sa overujú fakty a kam sa hlásia chyby.

Pravidlá prispôsobte práci. Iné kontroly potrebuje návrh pozvánky a iné systém zasahujúci do rozhodovania o ľuďoch. Pri právnych otázkach využite kompetentné posúdenie.

Pred spustením skúšajte aj zlyhania

Testovacia sada má obsahovať bežné prípady, neúplné vstupy, rozpory a požiadavky mimo povoleného účelu. Pri chatbotovi sa pýtajte aj na neexistujúci kurz alebo výnimku, ktorú pravidlá nepovoľujú. Overte, či systém prizná hranicu a odovzdá prípad človeku.

Určite podmienky, pri ktorých skúšku zastavíte. Závažné odhalenie údajov má iný význam než drobná štylistická chyba. Jediný priemerný ukazovateľ preto nenahrádza hodnotenie následkov.

Výsledky zapíšte tak, aby ich ďalší človek vedel zopakovať. Zaznamenajte potrebnú verziu, nastavenie a vzorku bez zbytočných osobných údajov. Po významnej zmene test zopakujte; starý výsledok nepotvrdzuje novú konfiguráciu.

Prevádzka potrebuje cestu späť

Určite, kto môže nástroj vypnúť alebo odobrať jeho oprávnenia. Pripravte postup na ručné dokončenie rozpracovaných úloh. Sledujte chyby a reklamácie, nie len počet použití.

Pri incidente najprv obmedzte ďalšiu škodu, potom zistite rozsah a opravte proces. Rozlišujte chybu obsahu, technický výpadok a bezpečnostný incident. Môžu sa prekrývať, ale vyžadujú odlišné kroky.

Kontroly majú zahŕňať aj dodávateľa. Zmena podmienok, funkcií alebo dostupnosti môže ovplyvniť pôvodné rozhodnutie používať službu. Za riadenie vlastného procesu nemožno považovať iba dôveru v marketing produktu.

Cvičenie a zhrnutie

Pre jeden nástroj vytvorte jednostranový záznam: účel, vlastník, údaje, oprávnenia, testy, schválenie, hlásenie problémov a náhradný postup. Skúste podľa neho vysvetliť použitie novému kolegovi. Nejasnosti, na ktoré narazí, ukazujú miesta na úpravu.

Zdroje a redakčná poznámka

• NIST: AI RMF Core.
• NIST: AI RMF Playbook - podklady na praktické zavedenie kontrol.
• AI Act.

Príklady a pracovný záznam sú redakčné pomôcky PoznAI. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Miroslav Schmiedt; osobné overenie zatiaľ nepotvrdené.

Pojem v slovníku

Odborný pojem: sukromie

Rozšírené vysvetlenie: Nadväzujúca odborná kapitola v Premium. Obsahuje podrobnejšie postupy a kontroly. Vyžaduje registráciu a Premium; tento základný kurz zostáva celý zadarmo.