Sledujte merateľné signály a pripravte sa na viac možností, nie na jeden dátum.
AI agent môže podľa cieľa navrhovať ďalšie kroky a používať dostupné nástroje. Väčšia samostatnosť však vyžaduje presnejšie hranice. Naučíte sa odlíšiť návrh od vykonania, obmedziť oprávnenia a overiť dokončenie úlohy podľa skutočného stavu systému.
Po prečítaní budete vedieť
- vysvetliť tému na konkrétnom príklade
- porozumieť postupu a jeho praktickým dôsledkom
- rozpoznať hranice použitia a potrebnú kontrolu
Zhrnutie
AI agent môže podľa cieľa navrhovať ďalšie kroky a používať dostupné nástroje. Väčšia samostatnosť však vyžaduje presnejšie hranice. Naučíte sa odlíšiť návrh od vykonania, obmedziť oprávnenia a overiť dokončenie úlohy podľa skutočného stavu systému.
Od odpovede k akcii
Bežný chatbot môže napísať návrh potvrdenia. Agent s nástrojmi môže vyhľadať prihlášku, skontrolovať stav a pripraviť alebo odoslať správu. Rozdiel nie je iba v počte krokov, ale v možných následkoch.
Termín agent sa používa rôzne. Pri konkrétnom produkte preto zisťujte, aké nástroje má, čo môže meniť a kde sa vyžaduje schválenie. Názov funkcie sám nepotvrdzuje autonómiu ani bezpečnosť.
Modelový agent pre organizáciu školenia
Predstavme si systém, ktorý preverí úplnosť prihlášky, nájde termín kurzu a pripraví odpoveď. Má prístup len k potrebným záznamom. Nemôže meniť cenu, prideľovať platený prístup ani vracať peniaze.
Pri chýbajúcom údaji pripraví otázku. Pri rozpore zastaví spracovanie a odovzdá prípad koordinátorovi. Pri odpovedi pred odoslaním zobrazí adresáta a obsah. Tieto hranice musia byť vynútené oprávneniami a aplikáciou, nie iba prosbou v zadaní.
💡 Jednoducho: samostatnejší agent nepotrebuje voľnejšie pravidlá. Potrebuje presnejšie oprávnenia, kontrolu a jasnú možnosť zastavenia.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Model + nástroje + verifikácia“.
Čo môže prísť zo škodlivého vstupu
E-mail alebo webová stránka môže obsahovať pokyn, aby agent odovzdal údaje alebo obišiel pravidlá. Je to neoverený obsah, nie autorita používateľa. OWASP upozorňuje na prompt injection aj nadmerné oprávnenia agentov. OWASP: Excessive Agency.
Obmedzte funkcie, prístupy a automatické konanie. Kontrola argumentov nástroja má prebiehať mimo modelu. Pri citlivej akcii schvaľujúci človek potrebuje skutočný obsah a následok, nie iba všeobecné tlačidlo „pokračovať“.
Limity času a nákladov
Agent sa môže zaseknúť v opakovaných pokusoch. Určite počet krokov, časový limit a rozpočet. Po prekročení má zastaviť a podať správu o stave. Neúspešné hľadanie nesmie pokračovať bez hranice len preto, že model navrhuje ďalší pokus.
| Hranica | Praktická kontrola |
|---|---|
| Údaje | Len potrebné záznamy |
| Akcie | Povolené nástroje a validované argumenty |
| Náklady | Limit krokov, času a spotreby |
| Dokončenie | Potvrdenie v cieľovom systéme |
„Hotovo“ treba overiť
Ak agent napíše, že správu odoslal, skontrolujte výsledok nástroja a stav odoslania. Ak uvádza vytvorenú udalosť, overte jej existenciu, termín a účastníkov. Slovné tvrdenie nie je dôkazom vykonania.
Pri chybe musí záznam rozlišovať plánovaný krok, pokus a potvrdený výsledok. Tak možno pokračovať bez duplicitného vykonania. Pri dôležitých zmenách potrebujete aj spôsob nápravy alebo návratu.
Sledujte merateľné signály a pripravte sa na viac možností, nie na jeden dátum. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Kedy je lepší pevný workflow
Ak sú kroky stále rovnaké a podmienky jednoznačné, pevný postup býva ľahšie kontrolovateľný. Agent je zmysluplný tam, kde sa ďalší krok mení podľa výsledku, no aj tam potrebuje ohraničené možnosti. Väčšia zložitosť sama osebe nie je prínos.
Cvičenie a zhrnutie
Navrhnite asistenta na preverenie prihlášky bez práva vykonať vonkajšiu akciu. Zapíšte povolené nástroje, zakázané činnosti a tri dôvody na zastavenie. Otestujte neúplný údaj, rozpor a pokyn vložený do cudzieho dokumentu. Až po preverení návrhu zvažujte ďalšie oprávnenia.
Zdroje a redakčná poznámka
Agent pre školenie je modelový návrh, nie opis nasadeného produktu. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Miroslav Schmiedt; osobné overenie zatiaľ nepotvrdené.
Pojem v slovníku
Rozšírené vysvetlenie: Nadväzujúca odborná kapitola v Premium. Obsahuje podrobnejšie postupy a kontroly. Vyžaduje registráciu a Premium; tento základný kurz zostáva celý zadarmo.
Praktické odpovede
Často kladené otázky
Je agent vždy lepší než automatizácia?
Nie. Výber závisí od úlohy. Pri pevných krokoch môže byť jednoduchší workflow vhodnejší.
Stačí agentovi zakázať škodlivé konanie v prompte?
Nie. Potrebujete obmedzené oprávnenia, validáciu, schvaľovanie a kontrolu výsledkov.
Ako zistím, že úloha je dokončená?
Podľa potvrdeného stavu v cieľovom systéme, nie iba podľa záverečnej správy modelu.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.