AI agenti a nástrojová integrácia

Teoretické základy autonómnych AI agentov: Od LLM k agentnej architektúre

AI agent spája model s pracovným cyklom a nástrojmi. Po prijatí cieľa môže navrhnúť ďalší krok, získať podklad a podľa výsledku upraviť postup. Rozsah samostatnosti však určuje aplikácia: prístup k nástroju nie je neobmedzené oprávnenie konať.

Samostatná odpoveď modelu a viacstupňový pracovný postup sú odlišné veci. Aj chat môže používať vyhľadávanie či výpočet; označenie agent preto nevytvára ostrú hranicu medzi všetkými produktmi. Dôležité je zistiť, kto plánuje kroky, kto ich vykonáva a kto overuje výsledok.

Naopak, AI agent je architektúra, v ktorej je jazykový model umiestnený v úlohe centrálneho kognitívneho riadiaceho uzla (Brain), ktorý je obklopený tromi kľúčovými subsystémami: plánovacími mechanizmami, systémami pamäte a prístupom k externým nástrojom (Tools / APIs).

Porovnanie tradicného LLM a autonómneho agenta

Rozdiel medzi štandardným vstupno-výstupným modelom a autonómnym agentom spočíva v schopnosti autonómneho cyklického uvažovania a adaptácie na základe spätnej väzby z prostredia.

Agentné návrhové vzory podľa Andrew Ng (Agentic Design Patterns)

Andrew Ng popularizuje návrhové vzory reflexie, používania nástrojov, plánovania a spolupráce viacerých agentov. Pri niektorých úlohách môžu zlepšiť výsledok, nie sú však všeobecne lepšie než silnejší model ani zárukou úspory. Porovnávajú sa na rovnakej úlohe, kvalite a nákladoch.

Architektúra uvažovania a konania: ReAct Framework (Reasoning + Acting)

Kľúčovým teoretickým a praktickým pilierom autonómnych agentov je ReAct Framework (zavedený v práci Yao et al., Princeton University & Google Research, 2022).

ReAct prepája navrhovanie ďalšieho kroku s použitím nástroja a pozorovaním jeho výsledku. Napríklad po vyhľadaní záznamu agent zistí, že chýba dátum, a navrhne jeho doplnenie z iného povoleného zdroja. Pri nejasnom výsledku sa má zastaviť alebo vyžiadať pomoc.

Ide o jeden návrhový prístup, nie o jediný spôsob tvorby agentov. Pre kontrolu je užitočný záznam volaní, argumentov, výsledkov a stručných dôvodov ďalšieho kroku. Nezamieňame ho s úplným vnútorným uvažovaním modelu.

Ukážka vykonávacieho záznamu

Nasleduje modelový príklad, nie živý záznam finančného trhu. Agent má porovnať dve ceny z autorizovaného zdroja. Prvá cena je 224,50 USD, druhá 412,10 USD. Aplikácia overí, že údaje pochádzajú z rovnakého času a meny. Kalkulačka vypočíta podiel 224,50 / 412,10, ktorý po zaokrúhlení na štyri desatinné miesta predstavuje 0,5448.

Záznam má obsahovať volaný nástroj, argumenty, čas, výsledok, prípadnú chybu a rozhodnutie o ďalšom kroku. Nemusí a nemá predstierať úplný vnútorný myšlienkový postup modelu. Krátke vysvetlenie kroku slúži na kontrolu procesu, nie ako dôkaz správnosti. Ak zdroj vráti staré alebo neúplné údaje, agent označí neistotu. Chybový stav automaticky neznamená, že alternatívny webový výsledok je vhodná náhrada.

Nástrojová integrácia a Function Calling / Tool Calling

Aby mohol AI agent vykonávať akcie v reálnom svete, musí disponovať rozhraním pre volanie funkcií (Function Calling / Tool Calling).

Function calling je technológia, pri ktorej jazykovému modelu pri požiadavke poskytneme zoznam dostupných nástrojov popísaných vo formáte JSON Schema. Model pri generovaní odpovede nevygeneruje bežný text, ale vytvorí špeciálne štruktúrované JSON volanie, ktoré obsahuje názov funkcie a presné vstupné argumenty.

Bezpečné vykonávanie nástrojov

Volanie navrhnuté modelom ešte nie je vykonaná akcia. Aplikácia musí rozhodnúť, či je nástroj povolený, či argumenty zodpovedajú schéme a či používateľ smie čítať konkrétneho zákazníka. ID zákazníka z promptu nie je potvrdenie oprávnenia.

najviac 10 krokov:
  požiadaj model o odpoveď alebo návrh nástroja
  ak je odpoveď finálna, ukonči proces
  over povolený názov nástroja a typy argumentov
  over prístup používateľa ku konkrétnemu záznamu
  pri zmene dát alebo finančnej akcii vyžiadaj schválenie
  vykonaj akciu s časovým limitom
  zaznamenaj výsledok a odošli ho modelu
pri prekročení limitu proces zastav a odovzdaj človeku

Ide o pseudokód bezpečnostnej logiky, nie o hotový SDK skript. Vypočítať navrhovanú zľavu môže byť čítacia analytická operácia; schváliť zľavu alebo zmeniť faktúru je iná akcia s vlastnými právami. Pri peniazoch sa používa presný desatinný typ a dohodnuté zaokrúhľovanie. Neznámy nástroj sa odmietne, nie vykoná cez dynamické vyhodnotenie kódu.

Systémy pamäte v agentných architektúrach

Ľudský mozog nedisponuje len jedným typom pamäte. Pre komplexné fungovanie využíva krátkodobú, dlhodobú, epizodickú a procedurálnu pamäť.

Moderné agentné architektúry (napr. MemGPT / Letta, LangChain Memory, LlamaIndex) replikujú tento vzor pomocou štruktúrovanej pamäťovej vrstvy.

Procedurálna pamäť je označenie pre uložené pravidlá, pracovné postupy a definície nástrojov. Systémové pokyny pomáhajú riadiť správanie, ale nevynucujú neprekročiteľné hranice. Oprávnenia musí aplikácia kontrolovať nezávisle od modelu.

Architektúra dlhodobej pamäte a vektorové embeddings

Pre ukladanie informácií do dlhodobej pamäte agent prekonvertuje textovú informáciu na vektorový embedding (číselné pole vo viacrozmernom priestore) pomocou embedding modelu (napr. text-embedding-3-small).

Keď agent v budúcnosti rieši novú úlohu pre rovnakého klienta, vykoná sémantické vyhľadávanie vo vektorovej databáze. Na základe kosínovej podobnosti (Cosine Similarity) vytiahne kľúčové fakty o klientovi a vloží ich do svojej krátkodobej pracovnej pamäte.

Bezpečnostné riziká, zraniteľnosti a Guardrails pre agentné systémy

Zatiaľ čo pri štandardnom čete predstavuje chyba modelu len vygenerovanie chybného textu, pri autonómnych agentoch disponujúcich API prístupom môže chyba viesť k fyzickým alebo finančným škodám (napr. neoprávnené vymazanie databázy, odoslanie chybného e-mailu tisícom klientov, vyčerpanie rozpočtu).

Preto musia byť agentné systémy chránené pomocou Guardrails (Bezpečnostných závor).

Hlavné bezpečnostné zraniteľnosti AI agentov

1. Nepriamy Prompt Injection (Indirect Prompt Injection)

Ide o významné riziko pri agentoch, ktorí čítajú nedôveryhodné externé podklady. Útočník nevkladá škodlivý pokyn priamo do používateľského promptu, ale umiestni ho do vonkajšieho dokumentu alebo na webovú stránku, ktorú agent počas plnenia úlohy autonómne prečíta.

Príklad útoku: Agent má zhrnúť e-mail, ktorý obsahuje skrytý pokyn na vyhľadanie a odoslanie hesiel. Agent môže tento obsah nesprávne vyhodnotiť ako pokyn. Detektor môže pomôcť, ale nesmie byť jedinou ochranou. Agent nemá mať prístup k heslám ani oprávnenie odosielať ich mimo systému.

1. Nekonečné slučky a finančné vyčerpanie (Infinite Loops & Cost Runaway)

Agent môže opakovane skúšať neúspešný krok a zvyšovať spotrebu. Počet krokov, čas a náklady preto obmedzte podľa konkrétnej úlohy. Desať krokov môže byť modelový limit, nie univerzálne správna hodnota. Pri prekročení limitu sa proces zastaví a oznámi skutočný stav.

1. Neoprávnené zvýšenie právomocí (Privilege Escalation)

Agentovi sú pridelené API kľúče s príliš vysokými právami (napr. ALL_PRIVILEGES v SQL databáze alebo plný prístup k zapísaniu v CRM). Ak agent spraví chybu, môže zmazať tabuľky namiesto ich prečítania.

Viacvrstvová ochrana

Nie všetky guardrails sú deterministické. Limit počtu krokov možno vynútiť programovo; detektor škodlivých pokynov založený na modeli môže robiť chyby. Vyhľadávanie zakázaných slov ako DROP alebo DELETE nie je dostatočná ochrana. Útočník môže požiadavku obísť iným zápisom a legitímny dokument môže také slová obsahovať.

Dôležité kontroly stoja mimo promptu: zoznam povolených nástrojov, kontrola typov a rozsahov, práva k jednotlivým záznamom, oddelené čítanie a zápis, časové a nákladové limity. Súborové operácie sa vykonávajú v skutočne izolovanom prostredí. Samotný názov adresára /tmp/sandbox neznamená sandbox.

Prístup k databáze je pre rešeršného agenta iba na čítanie. Ak má iný agent zapisovať, dostane úzko vymedzenú operáciu, nie všeobecné administrátorské práva. API rozpočtový limit musí byť skutočne vynútiteľný; notifikácia o rozpočte nie je zákaz ďalšej spotreby. Systémové pokyny opisujú požadované správanie, ale nenahrádzajú tieto bariéry.

Modelový príklad obchodnej rešerše

Ide o ilustračný scenár, nie overený profil skutočnej spoločnosti. Agent má pripraviť podklady o modelovej logistickej firme. Názov, identifikátor a čísla slúžia iba na vysvetlenie. V skutočnej rešerši sa identita overuje v registri; dve firmy s podobným názvom sa nesmú zameniť.

Prvý nástroj vyhľadá oficiálny záznam. Druhý získa účtovnú závierku a dátum jej obdobia. Tretí vyhľadá verejné oznámenia a zachová URL, dátum a pôvodné znenie. Agent odlíši údaj z registra od tvrdenia tlačovej správy. Nenájdené oznámenie nie je dôkaz, že sa udalosť nestala.

Ak modelové tržby predstavujú 4 500 000 eur a čistý zisk 315 000 eur, čistá zisková marža je 315 000 / 4 500 000 × 100 = 7 %. Výpočet je správny pre tieto vstupy, ale neoveruje pravdivosť účtovných údajov ani vhodnosť ich porovnania. Report musí pomenovať obdobie a definíciu zisku.

Príležitosť ponúknuť regálový systém je obchodná hypotéza. Agent ju môže navrhnúť, nie prezentovať ako zistenú potrebu firmy. Pred kontaktovaním klienta človek preverí podklady aj oprávnenie použiť kontaktné údaje. Počet krokov pod limitom dokazuje len dodržanie jednej kontroly, nie celkovú bezpečnosť systému.

Zhrnutie

Agent prepája model s nástrojmi a opakovanými krokmi. Jeho užitočnosť závisí od kvality dát a jeho bezpečnosť od práv, limitov a kontrol v aplikácii.

💡 Jednoducho povedané: Agent prepája model s nástrojmi a opakovanými krokmi. Jeho užitočnosť závisí od kvality dát a jeho bezpečnosť od práv, limitov a kontrol v aplikácii.

Zdroje a redakčná poznámka

• arXiv: výskumná štúdia
• genai.owasp.org
• genai.owasp.org

Základom je používateľom dodaná Odborná príručka AI v praxi. Modelové prípady sú vysvetľujúce ukážky, nie výsledky merania konkrétnej firmy. Stav redakčného spracovania: 4. októbra 2026. Návrh na odborné overenie: Miroslav Schmiedt; osobné overenie zatiaľ nepotvrdené.

Pojem v slovníku

Odborný pojem: Strojové učenie (machine learning)

Rozšírené vysvetlenie: Nadväzujúca odborná kapitola v Premium. Obsahuje podrobnejšie postupy a kontroly. Vyžaduje registráciu a Premium; tento základný kurz zostáva celý zadarmo.