Dôverujte procesu, ktorý vie chybu zachytiť, zastaviť a napraviť.
Transparentnosť znamená, že človek dostane potrebné informácie o použití AI. Vysvetliteľnosť sa týka pochopenia výsledku a jeho dôvodov. Nie je to to isté ako zverejnenie zdrojového kódu. Na príklade hodnotenia žiadosti si ukážeme, aké vysvetlenie je užitočné a prečo pekne napísané odôvodnenie nemusí verne opisovať fungovanie modelu.
Po prečítaní budete vedieť
- vysvetliť tému na konkrétnom príklade
- porozumieť postupu a jeho praktickým dôsledkom
- rozpoznať hranice použitia a potrebnú kontrolu
Zhrnutie
Transparentnosť znamená, že človek dostane potrebné informácie o použití AI. Vysvetliteľnosť sa týka pochopenia výsledku a jeho dôvodov. Nie je to to isté ako zverejnenie zdrojového kódu. Na príklade hodnotenia žiadosti si ukážeme, aké vysvetlenie je užitočné a prečo pekne napísané odôvodnenie nemusí verne opisovať fungovanie modelu.
„Systém vás vyhodnotil“ nie je vysvetlenie
Modelový účastník žiada o miesto na dotovanom kurze. Dostane odpoveď, že jeho žiadosť získala nízke skóre. Nevie, či chýbal dokument, nesplnil podmienku alebo systém zle prečítal prílohu. Bez tejto informácie nemôže chybu opraviť.
Užitočná odpoveď rozlíši konkrétnu okolnosť: napríklad chýbajúce potvrdenie, použité kritérium a spôsob doplnenia podkladov. Ak výsledok pripravila AI, organizácia má vedieť opísať jej úlohu a dostupné možnosti preskúmania. Rozsah právnych povinností sa posudzuje podľa konkrétneho systému a situácie.
Tri informácie, ktoré sa často zamieňajú
Prvá informácia je, že bol použitý AI nástroj. Druhá vysvetľuje, akú úlohu mal: prepisoval, sumarizoval, odporúčal alebo vykonal akciu. Tretia sa týka konkrétneho výsledku: z akých podkladov a pravidiel vychádzal.
Veta „používame AI“ poskytuje len prvú vrstvu. Technický zoznam modelov zase nemusí pomôcť človeku, ktorý potrebuje opraviť nesprávny údaj. Vysvetlenie má zodpovedať otázke adresáta, nie iba ukazovať technickú zložitosť systému.
NIST rozlišuje poskytovanie vysvetlenia, jeho zmysluplnosť pre používateľa, vernosť vysvetlenia procesu a rešpektovanie hraníc znalostí systému. Tieto princípy pripomínajú, že zrozumiteľnosť nestačí, ak vysvetlenie nie je verné. NISTIR 8312.
💡 Jednoducho: vysvetlenie má pomôcť pochopiť a preveriť výsledok. Nemá iba urobiť výsledok presvedčivejším.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Dôsledok určuje mieru kontroly“.
Odôvodnenie chatbotu môže byť dodatočný text
Ak modelu zadáte „vysvetli, prečo si tak rozhodol“, vytvorí ďalší výstup. Ten môže byť užitočný, ale nie je automaticky dôkazom, že opisuje skutočný vnútorný postup. Preto pri pracovnom použití overujte dostupné podklady, pravidlá a záznamy systému.
Pri sumarizácii dokumentu môžete požadovať označenie strany a podpornú pasáž. Potom ju porovnajte s originálom. Pri klasifikátore si potrebujete overiť, čo jeho skóre znamená a na akej úlohe bolo hodnotené. Jedno všeobecné percento nenahrádza vysvetlenie konkrétneho prípadu.
Ako pripraviť vysvetlenie pre používateľa
V modelovej žiadosti môže odpoveď uviesť: „V prílohe sa nepodarilo nájsť potvrdenie o splnení podmienky. Automatický nástroj pripravil predbežný výsledok. Dokument môžete doplniť alebo požiadať o kontrolu.“ Taká formulácia nepredstiera, že chyba určite patrí žiadateľovi.
Ak dokument existuje a systém ho prehliadol, musí nasledovať oprava. Možnosť preskúmania je praktická len vtedy, keď ju rieši osoba s prístupom k originálu a právomocou výsledok zmeniť.
| Adresát | Užitočná informácia |
|---|---|
| Zákazník | Čo ovplyvnilo výsledok a ako riešiť chybu |
| Pracovník kontroly | Vstup, relevantný podklad, pravidlo a obmedzenia |
| Správca systému | Verzia, nastavenie, záznamy a výsledky testov |
Nie každý adresát potrebuje všetky informácie. Zverejnenie interných logov môže odhaliť osobné údaje alebo bezpečnostné detaily. Transparentnosť musí byť užitočná a zároveň primeraná.
Kde má systém priznať hranicu
Pri neúplnej prílohe je lepšie požiadať o doplnenie než vymyslieť chýbajúci údaj. Pri neznámom type dokumentu má systém prípad odovzdať človeku. Pri otázke mimo jeho účelu nemá predstierať odbornú autoritu.
Tieto reakcie treba testovať. Nestačí uviesť v pokyne „ak nevieš, povedz to“. Overte prípady s nečitateľným dokumentom, protichodnými údajmi a chýbajúcou prílohou. Sledujte, či systém skutočne prestane rozhodovať.
Dôverujte procesu, ktorý vie chybu zachytiť, zastaviť a napraviť. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Cvičenie a zhrnutie
Napíšte oznámenie pre zákazníka v troch vetách: akú úlohu má AI, čo kontroluje človek a kam sa obrátiť pri chybe. Potom pripravte podrobnejší interný záznam na rovnaký prípad. Rozdiel medzi nimi ukazuje, prečo nemožno transparentnosť vyriešiť jedným univerzálnym textom.
Zdroje a redakčná poznámka
- NISTIR 8312: Four Principles of Explainable Artificial Intelligence.
- AI Act, články 13 a 50 - rôzne povinnosti transparentnosti podľa použitia.
Príklad žiadosti je modelový. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Miroslav Schmiedt; osobné overenie zatiaľ nepotvrdené.
Pojem v slovníku
Odborný pojem: vysvetlitelnost
Rozšírené vysvetlenie: Nadväzujúca odborná kapitola v Premium. Obsahuje podrobnejšie postupy a kontroly. Vyžaduje registráciu a Premium; tento základný kurz zostáva celý zadarmo.
Praktické odpovede
Často kladené otázky
Musí firma zverejniť celý zdrojový kód?
Nie je to všeobecná požiadavka tejto kapitoly. Potrebné informácie závisia od účelu, adresáta a právnych povinností.
Je dlhšie vysvetlenie vždy lepšie?
Nie. Má byť relevantné, overiteľné a zrozumiteľné. Dlhý technický text môže podstatný dôvod skryť.
Stačí, že AI vypíše svoje odôvodnenie?
Nie. Treba preveriť jeho vzťah k podkladom a fungovaniu systému. Presvedčivý text nemusí byť vernou správou o procese.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.