Model je iba jedna časť celého AI systému.
Automatizácia spája vstup, pravidlá, spracovanie a následnú akciu. AI je užitočná najmä tam, kde treba pracovať s neštruktúrovaným textom. Pevné pravidlá, oprávnenia a kontrola však majú zostať explicitné. Ukážeme si bezpečný návrh spracovania prihlášky na školenie.
Po prečítaní budete vedieť
- vysvetliť tému na konkrétnom príklade
- porozumieť postupu a jeho praktickým dôsledkom
- rozpoznať hranice použitia a potrebnú kontrolu
Zhrnutie
Automatizácia spája vstup, pravidlá, spracovanie a následnú akciu. AI je užitočná najmä tam, kde treba pracovať s neštruktúrovaným textom. Pevné pravidlá, oprávnenia a kontrola však majú zostať explicitné. Ukážeme si bezpečný návrh spracovania prihlášky na školenie.
Najprv nakreslite proces bez AI
V modelovej firme príde prihláška e-mailom. Pracovník skontroluje potrebné údaje, založí záznam a pošle potvrdenie. Výnimky rieši osobitne. Pred automatizáciou treba vedieť, aké údaje sú povinné, ako sa zisťuje duplicita a čo potvrdenie sľubuje.
Ak proces nie je jasný, AI bude medzery vypĺňať odhadom. Technické prepojenie aplikácií nenahrádza pracovné pravidlá.
Kde použiť pravidlo a kde AI
Kontrola platného formátu dátumu alebo existencie povinného poľa môže byť pevné pravidlo. AI môže z voľného textu pripraviť návrh údajov alebo rozpoznať tému otázky. Výstup musí prejsť validáciou.
| Krok | Kontrola |
|---|---|
| Prijatie vstupu | Povolený zdroj a formát |
| Extrakcia údajov | Povinné polia a podporný text |
| Založenie záznamu | Duplicita a platné hodnoty |
| Návrh odpovede | Správny adresát a záväzky |
| Odoslanie | Schválenie podľa následku |
💡 Jednoducho: model môže navrhnúť, čo údaje znamenajú. Oprávnenie vykonať akciu má určovať systém, nie veta vytvorená modelom.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Od problému po monitorovanie“.
Skúšobná prevádzka
Začnite vymyslenými vstupmi a bez skutočného odosielania. Pridajte neúplnú prihlášku, preklep, opakovanú správu a požiadavku na neexistujúci kurz. Overte, kam sa prípad presunie, keď ho nemožno bezpečne dokončiť.
Pri opakovaní po výpadku nesmie vzniknúť druhý záznam alebo druhý e-mail. Preto sa používa identifikátor udalosti a kontrola, či bola akcia už vykonaná. Opätovný pokus má nadviazať na stav procesu, nie slepo zopakovať všetko.
Prístupy a dôverné údaje
Pripojenie má mať iba oprávnenia potrebné na danú úlohu. Kľúče sa ukladajú do bezpečnej konfigurácie, nie do promptu či verejného dokumentu. Záznamy majú pomôcť nájsť chybu bez zbytočného uchovávania osobných údajov.
Obsah prijatého e-mailu je podklad, nie oprávnený pokyn na zmenu systému. Útočník môže doň vložiť text, ktorý sa pokúsi ovplyvniť model. OWASP opisuje prompt injection ako riziko manipulácie správania modelu cez vstup. Ochrana potrebuje viac než samotný pokyn „ignoruj škodlivý text“. OWASP: Prompt Injection Prevention.
Prevádzka a zastavenie
Určite vlastníka, limity počtu spracovaní a cestu k ručnému riešeniu. Pri výpadku služby má byť jasné, ktoré prípady čakajú a ktoré boli dokončené. Sledujte chybné záznamy, opravy a reklamácie, nie iba počet automatických behov.
Prístup bez programovania neznamená prevádzku bez zodpovednosti. Aj vizuálne vytvorený workflow môže odoslať údaj nesprávnemu adresátovi alebo vykonať akciu opakovane.
Model je iba jedna časť celého AI systému. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Cvičenie a zhrnutie
Rozpíšte prihlášku na päť krokov. Pri každom určite vstup, kontrolu, výstup a reakciu na chybu. AI pridajte iba tam, kde rieši konkrétnu potrebu. Následne proces otestujte bez vonkajších akcií.
Zdroj a redakčná poznámka
OWASP: Prompt Injection Prevention. Príklad je modelový. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Marek Rodák; osobné overenie zatiaľ nepotvrdené.
Pojem v slovníku
Praktické odpovede
Často kladené otázky
Potrebuje každý krok AI?
Nie. Pevné pravidlá sú vhodnejšie na jednoznačné kontroly a oprávnenia.
Môžem automaticky poslať každú vytvorenú odpoveď?
Nie bez posúdenia. Najprv overte kvalitu, adresáta, záväzky a pravidlá schválenia.
Čo je najdôležitejšie pri výpadku?
Poznať stav procesu a zabrániť strate či opakovaniu akcie. Musí existovať náhradný postup.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.