Architektúra dôveryhodného AI asistenta

Rýchla odpoveď: AI asistent nie je iba model s promptom; je to sociotechnický systém identity, kontextu, znalostí, nástrojov, pravidiel, rozhrania, ľudského dohľadu a prevádzkových dôkazov.

Pôsobivá konverzácia zakrýva, že chybu môže vytvoriť retrieval, neplatný zdroj, široké oprávnenie, integračný timeout, nejasný UX stav alebo nesprávne rozhodnutie človeka. Bez systémovej mapy tím nevie, čo vlastne testuje a kto nesie následok.

Lekcia je určená pre produktových vlastníkov, tvorcov chatbotov, IT architektov, no-code tvorcov, právnikov, bezpečnostné tímy a správcov znalostí. Výsledkom nie je všeobecný zoznam rád, ale systémová mapa AI asistenta s dôveryhodnými hranicami a RACI: verzovaný pracovný artefakt s vlastníkom, dôkazmi, výnimkami a dátumom revízie.

Presný rámec problému

V oblasti návrhu, tvorby a prevádzky AI asistentov sa nesmie zamieňať schopnosť modelu s bezpečnosťou celého systému. Reálny výsledok ovplyvňuje rozhranie, identita, kontext, nástroje, dáta, integrácie, ľudia, dodávateľský reťazec aj prevádzkové postupy. Zdrojom pravdy zostáva autorizované zdrojové systémy, schválené pravidlá procesu a pozorovaný stav po vykonanej akcii; samotná odpoveď modelu zdrojom pravdy nie je.

Rozhodnutie prijíma produktový vlastník use case spolu s vlastníkom dotknutého procesu, dát a rizika. Úlohou tvorcu AI asistenta je priniesť testovateľné tvrdenie, nie nahradiť vlastníka rizika. Každý záver rozlišuje pozorovaný fakt, odbornú interpretáciu, neistotu a odporúčanie.

Bezpečnostná hranica znie: model nesmie sám rozširovať svoj účel, oprávnenia ani definíciu úspechu a každý externý účinok musí zostať dohľadateľný k identite, policy a potvrdenému výsledku. Ak chýba podstatný dôkaz, správnym stavom je „neoverené“, obmedzenie funkcie alebo ďalší test - nie optimistický predpoklad.

Kľúčové praktiky

1. Informačný asistent

Prečo na tom záleží: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie. V kontexte témy architektúra dôveryhodného ai asistenta treba pomenovať chránenú vlastnosť, hranicu systému, oprávneného aktéra a realistický spôsob zlyhania. Všeobecné vyhlásenie bez väzby na konkrétne aktívum nie je kontrola.

Ako sa praktika zavedie: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Vlastník určí predpoklady, povolené a zakázané stavy, bežnú cestu, hraničný prípad a bezpečný stav. Technická implementácia sa prepojí s pracovným postupom; procesná veta bez vynútiteľnej ochrany nestačí.

Akceptačný dôkaz: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Dôkaz uvádza rozsah, prostredie, verziu, vstupy, očakávaný výsledok, skutočný výsledok, autora a kontrolóra. Snímka obrazovky bez reprodukovateľného testu je iba ilustrácia.

Rozhodovacia otázka: Vie nezávislý kontrolór z balíka zistiť, čo kontrola chráni, pred kým, kedy zlyhala naposledy a kto má právomoc zmeniť stav? Ak nie, praktika ostáva rozpracovaná. Model je pravdepodobnostný komponent; oprávnenie, zdroj pravdy a potvrdenie účinku riadi aplikácia a zodpovedný človek.

2. Interný poradca

Prečo na tom záleží: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach. V kontexte témy architektúra dôveryhodného ai asistenta treba pomenovať chránenú vlastnosť, hranicu systému, oprávneného aktéra a realistický spôsob zlyhania. Všeobecné vyhlásenie bez väzby na konkrétne aktívum nie je kontrola.

Ako sa praktika zavedie: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Vlastník určí predpoklady, povolené a zakázané stavy, bežnú cestu, hraničný prípad a bezpečný stav. Technická implementácia sa prepojí s pracovným postupom; procesná veta bez vynútiteľnej ochrany nestačí.

Akceptačný dôkaz: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Dôkaz uvádza rozsah, prostredie, verziu, vstupy, očakávaný výsledok, skutočný výsledok, autora a kontrolóra. Snímka obrazovky bez reprodukovateľného testu je iba ilustrácia.

Rozhodovacia otázka: Vie nezávislý kontrolór z balíka zistiť, čo kontrola chráni, pred kým, kedy zlyhala naposledy a kto má právomoc zmeniť stav? Ak nie, praktika ostáva rozpracovaná. Úzky use case s merateľným outcome je spoľahlivejší základ než univerzálny chatbot bez hraníc.

3. Transakčný asistent

Prečo na tom záleží: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku. V kontexte témy architektúra dôveryhodného ai asistenta treba pomenovať chránenú vlastnosť, hranicu systému, oprávneného aktéra a realistický spôsob zlyhania. Všeobecné vyhlásenie bez väzby na konkrétne aktívum nie je kontrola.

Ako sa praktika zavedie: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Vlastník určí predpoklady, povolené a zakázané stavy, bežnú cestu, hraničný prípad a bezpečný stav. Technická implementácia sa prepojí s pracovným postupom; procesná veta bez vynútiteľnej ochrany nestačí.

Akceptačný dôkaz: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Dôkaz uvádza rozsah, prostredie, verziu, vstupy, očakávaný výsledok, skutočný výsledok, autora a kontrolóra. Snímka obrazovky bez reprodukovateľného testu je iba ilustrácia.

Rozhodovacia otázka: Vie nezávislý kontrolór z balíka zistiť, čo kontrola chráni, pred kým, kedy zlyhala naposledy a kto má právomoc zmeniť stav? Ak nie, praktika ostáva rozpracovaná. Citácia je užitočná iba vtedy, keď zdroj skutočne podporuje tvrdenie, je platný a používateľ ho smie vidieť.

4. Citlivá rada

Prečo na tom záleží: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom. V kontexte témy architektúra dôveryhodného ai asistenta treba pomenovať chránenú vlastnosť, hranicu systému, oprávneného aktéra a realistický spôsob zlyhania. Všeobecné vyhlásenie bez väzby na konkrétne aktívum nie je kontrola.

Ako sa praktika zavedie: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Vlastník určí predpoklady, povolené a zakázané stavy, bežnú cestu, hraničný prípad a bezpečný stav. Technická implementácia sa prepojí s pracovným postupom; procesná veta bez vynútiteľnej ochrany nestačí.

Akceptačný dôkaz: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Dôkaz uvádza rozsah, prostredie, verziu, vstupy, očakávaný výsledok, skutočný výsledok, autora a kontrolóra. Snímka obrazovky bez reprodukovateľného testu je iba ilustrácia.

Rozhodovacia otázka: Vie nezávislý kontrolór z balíka zistiť, čo kontrola chráni, pred kým, kedy zlyhala naposledy a kto má právomoc zmeniť stav? Ak nie, praktika ostáva rozpracovaná. Vektorová podobnosť nie je autorizácia, autorita dokumentu ani vecný dôkaz.

5. Prevádzková zmena

Prečo na tom záleží: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Konkrétny kontext je: Tím mení model, prompt, index alebo nástroj. V kontexte témy architektúra dôveryhodného ai asistenta treba pomenovať chránenú vlastnosť, hranicu systému, oprávneného aktéra a realistický spôsob zlyhania. Všeobecné vyhlásenie bez väzby na konkrétne aktívum nie je kontrola.

Ako sa praktika zavedie: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Vlastník určí predpoklady, povolené a zakázané stavy, bežnú cestu, hraničný prípad a bezpečný stav. Technická implementácia sa prepojí s pracovným postupom; procesná veta bez vynútiteľnej ochrany nestačí.

Akceptačný dôkaz: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Dôkaz uvádza rozsah, prostredie, verziu, vstupy, očakávaný výsledok, skutočný výsledok, autora a kontrolóra. Snímka obrazovky bez reprodukovateľného testu je iba ilustrácia.

Rozhodovacia otázka: Vie nezávislý kontrolór z balíka zistiť, čo kontrola chráni, pred kým, kedy zlyhala naposledy a kto má právomoc zmeniť stav? Ak nie, praktika ostáva rozpracovaná. Nedôveryhodný obsah ostáva dátom aj vtedy, keď vyzerá ako presvedčivá inštrukcia pre agenta.

Metóda od rozsahu po overenie

1. Vymedzte používateľa, úlohu a outcome

Zapíšte konkrétnu potrebu, dnešnú baseline, očakávaný výsledok, cenu chyby, cieľovú skupinu, vylúčené úlohy a vlastníka procesu. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

2. Nakreslite systém a dôveryhodné hranice

Zmapujte model, rozhranie, identitu, konverzačný stav, zdroje, retrieval, nástroje, logy, dodávateľov, ľudí a všetky miesta externého účinku. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

3. Určte zdroje pravdy a pôvod

Ku každému faktu a objektu priraďte autoritatívny systém, ownera, verziu, platnosť, prístup, citáciu, opravný proces a pravidlo abstencie. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

4. Preložte politiku do vynútiteľných kontrol

Oddeľte behaviorálne inštrukcie modelu od deterministickej autorizácie, validácie, limitov, filtrov, schvaľovania a bezpečného fallbacku. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

5. Navrhnite nástroje a autonómiu podľa rizika

Čítanie a zápis oddeľte, delegujte najmenšie scope, používajte preview, idempotenciu, receipts, reconciliation, stop podmienky a ľudské approval brány. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

6. Vytvorte reprezentatívny eval corpus

Pokryte bežné, hraničné, adversariálne, nezodpovedateľné a kritické scenáre; oddeľte retrieval, odpoveď, citáciu, akciu, prístupnosť a používateľský outcome. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

7. Pilotujte s obmedzeným dosahom

Použite malú kohortu, read-only alebo vratný režim, canary, živý monitoring, podporu, jasný feedback, incident runbook a vopred stanovené stop prahy. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

8. Prevádzkujte verzovane a učte sa

Spájajte release manifests, traces, evaly, sťažnosti, incidenty, náklady a rozhodnutia; po zmene modelu, dát, promptu, toolu alebo policy spustite primeranú regresiu. Krok sa uzatvára až vtedy, keď má pomenovaného vlastníka, objektívny dôkaz, rozhodnutie a dátum ďalšej revízie. Pri neznámom stave sa výsledok neinterpretuje ako úspech.

Praktické scenáre

Scenár 1: Informačný asistent

Situácia: Verejnosť sa pýta na služby organizácie. Tím pred zásahom zachytí systém, používateľskú rolu, citlivé aktíva, závislosti, časový tlak a možný dosah na ľudí alebo prevádzku.

Čo sa môže pokaziť: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Kontrolór rozlíši príčinu, predpoklad a pozorovaný jav. Plynulé vysvetlenie AI sa nepovažuje za dôkaz a neistota sa otvorene zaznamená.

Riadená reakcia: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Najprv sa chráni dôkaz a obmedzí dosah, potom sa obnovuje služba. Automatizácia môže vykonať iba vopred povolené, reverzibilné kroky v rozsahu identity, pod ktorou beží.

Akceptačný dôkaz: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Balík obsahuje negatívny test, hraničný test, záznam rozhodnutia a overenie, že náprava nevytvorila nový problém.

Vlastník: Vlastník služby. nesie rozhodnutie o akceptovaní zostatkového rizika. Vektorová podobnosť nie je autorizácia, autorita dokumentu ani vecný dôkaz.

Scenár 2: Interný poradca

Situácia: Zamestnanec hľadá postup v interných smerniciach. Tím pred zásahom zachytí systém, používateľskú rolu, citlivé aktíva, závislosti, časový tlak a možný dosah na ľudí alebo prevádzku.

Čo sa môže pokaziť: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Kontrolór rozlíši príčinu, predpoklad a pozorovaný jav. Plynulé vysvetlenie AI sa nepovažuje za dôkaz a neistota sa otvorene zaznamená.

Riadená reakcia: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Najprv sa chráni dôkaz a obmedzí dosah, potom sa obnovuje služba. Automatizácia môže vykonať iba vopred povolené, reverzibilné kroky v rozsahu identity, pod ktorou beží.

Akceptačný dôkaz: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Balík obsahuje negatívny test, hraničný test, záznam rozhodnutia a overenie, že náprava nevytvorila nový problém.

Vlastník: Vlastník informácií. nesie rozhodnutie o akceptovaní zostatkového rizika. Nedôveryhodný obsah ostáva dátom aj vtedy, keď vyzerá ako presvedčivá inštrukcia pre agenta.

Scenár 3: Transakčný asistent

Situácia: Používateľ chce zmeniť rezerváciu alebo objednávku. Tím pred zásahom zachytí systém, používateľskú rolu, citlivé aktíva, závislosti, časový tlak a možný dosah na ľudí alebo prevádzku.

Čo sa môže pokaziť: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Kontrolór rozlíši príčinu, predpoklad a pozorovaný jav. Plynulé vysvetlenie AI sa nepovažuje za dôkaz a neistota sa otvorene zaznamená.

Riadená reakcia: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Najprv sa chráni dôkaz a obmedzí dosah, potom sa obnovuje služba. Automatizácia môže vykonať iba vopred povolené, reverzibilné kroky v rozsahu identity, pod ktorou beží.

Akceptačný dôkaz: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Balík obsahuje negatívny test, hraničný test, záznam rozhodnutia a overenie, že náprava nevytvorila nový problém.

Vlastník: Vlastník procesu. nesie rozhodnutie o akceptovaní zostatkového rizika. Každý nástroj má najmenšie oprávnenie, typovaný kontrakt, limit, auditnú stopu a bezpečný stav pri zlyhaní.

Scenár 4: Citlivá rada

Situácia: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom. Tím pred zásahom zachytí systém, používateľskú rolu, citlivé aktíva, závislosti, časový tlak a možný dosah na ľudí alebo prevádzku.

Čo sa môže pokaziť: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Kontrolór rozlíši príčinu, predpoklad a pozorovaný jav. Plynulé vysvetlenie AI sa nepovažuje za dôkaz a neistota sa otvorene zaznamená.

Riadená reakcia: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Najprv sa chráni dôkaz a obmedzí dosah, potom sa obnovuje služba. Automatizácia môže vykonať iba vopred povolené, reverzibilné kroky v rozsahu identity, pod ktorou beží.

Akceptačný dôkaz: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Balík obsahuje negatívny test, hraničný test, záznam rozhodnutia a overenie, že náprava nevytvorila nový problém.

Vlastník: Risk owner. nesie rozhodnutie o akceptovaní zostatkového rizika. Ľudské schválenie je účinné iba vtedy, keď človek vidí zámer, zdroj, zmenu, riziko, cenu a možnosť návratu.

Scenár 5: Prevádzková zmena

Situácia: Tím mení model, prompt, index alebo nástroj. Tím pred zásahom zachytí systém, používateľskú rolu, citlivé aktíva, závislosti, časový tlak a možný dosah na ľudí alebo prevádzku.

Čo sa môže pokaziť: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Kontrolór rozlíši príčinu, predpoklad a pozorovaný jav. Plynulé vysvetlenie AI sa nepovažuje za dôkaz a neistota sa otvorene zaznamená.

Riadená reakcia: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Najprv sa chráni dôkaz a obmedzí dosah, potom sa obnovuje služba. Automatizácia môže vykonať iba vopred povolené, reverzibilné kroky v rozsahu identity, pod ktorou beží.

Akceptačný dôkaz: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Balík obsahuje negatívny test, hraničný test, záznam rozhodnutia a overenie, že náprava nevytvorila nový problém.

Vlastník: Service owner. nesie rozhodnutie o akceptovaní zostatkového rizika. Offline eval, online monitoring a incidentné učenie tvoria jeden cyklus; ani jedna vrstva sama nestačí.

Metriky a rozhodovacie prahy

Úspech úlohy s kritickou podmienkou

Definícia: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metrika má jednotku, menovateľ, zdroj, segment, časové okno, periodicitu, vlastníka a podmienku neznámeho stavu. Pri prahu sa uvádza cena falošného poplachu aj prehliadnutia problému.

Použitie pri rozhodovaní: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Hodnota sa interpretuje spolu s objemom, trendom, verziou systému a kvalitou telemetrie. Prah sa schvaľuje pred pohľadom na konečný výsledok testu.

Pasca: Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty. Jeden priemer nemôže prekryť kritické zlyhanie malej skupiny, privilegovanej cesty alebo citlivého aktíva. Každý nástroj má najmenšie oprávnenie, typovaný kontrakt, limit, auditnú stopu a bezpečný stav pri zlyhaní.

Uzemnenosť a správnosť pôvodu

Definícia: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metrika má jednotku, menovateľ, zdroj, segment, časové okno, periodicitu, vlastníka a podmienku neznámeho stavu. Pri prahu sa uvádza cena falošného poplachu aj prehliadnutia problému.

Použitie pri rozhodovaní: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Hodnota sa interpretuje spolu s objemom, trendom, verziou systému a kvalitou telemetrie. Prah sa schvaľuje pred pohľadom na konečný výsledok testu.

Pasca: Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu. Jeden priemer nemôže prekryť kritické zlyhanie malej skupiny, privilegovanej cesty alebo citlivého aktíva. Ľudské schválenie je účinné iba vtedy, keď človek vidí zámer, zdroj, zmenu, riziko, cenu a možnosť návratu.

Neoprávnený alebo chybný účinok

Definícia: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metrika má jednotku, menovateľ, zdroj, segment, časové okno, periodicitu, vlastníka a podmienku neznámeho stavu. Pri prahu sa uvádza cena falošného poplachu aj prehliadnutia problému.

Použitie pri rozhodovaní: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Hodnota sa interpretuje spolu s objemom, trendom, verziou systému a kvalitou telemetrie. Prah sa schvaľuje pred pohľadom na konečný výsledok testu.

Pasca: Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti. Jeden priemer nemôže prekryť kritické zlyhanie malej skupiny, privilegovanej cesty alebo citlivého aktíva. Offline eval, online monitoring a incidentné učenie tvoria jeden cyklus; ani jedna vrstva sama nestačí.

Ľudská korekcia a eskalácia

Definícia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metrika má jednotku, menovateľ, zdroj, segment, časové okno, periodicitu, vlastníka a podmienku neznámeho stavu. Pri prahu sa uvádza cena falošného poplachu aj prehliadnutia problému.

Použitie pri rozhodovaní: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Hodnota sa interpretuje spolu s objemom, trendom, verziou systému a kvalitou telemetrie. Prah sa schvaľuje pred pohľadom na konečný výsledok testu.

Pasca: Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu. Jeden priemer nemôže prekryť kritické zlyhanie malej skupiny, privilegovanej cesty alebo citlivého aktíva. Pamäť, log, embedding, cache a export sú dátové odvodeniny so svojím účelom, prístupom, retenciou a výmazom.

Náklad a latencia na prijatý výsledok

Definícia: Celkové modelové, infraštruktúrne, retrieval, review, opravné a prevádzkové náklady a čas na výsledok, ktorý splnil akceptačné kritériá. Metrika má jednotku, menovateľ, zdroj, segment, časové okno, periodicitu, vlastníka a podmienku neznámeho stavu. Pri prahu sa uvádza cena falošného poplachu aj prehliadnutia problému.

Použitie pri rozhodovaní: Porovnáva architektúry, modely, cache, routing a úroveň autonómie podľa skutočnej hodnoty. Hodnota sa interpretuje spolu s objemom, trendom, verziou systému a kvalitou telemetrie. Prah sa schvaľuje pred pohľadom na konečný výsledok testu.

Pasca: Cena jednej odpovede ignoruje retry, review, incidenty a nepoužité výstupy. Jeden priemer nemôže prekryť kritické zlyhanie malej skupiny, privilegovanej cesty alebo citlivého aktíva. Agent navrhuje a vykonáva iba v povolenom rozsahu; zodpovednosť za systémový výsledok a zostatkové riziko ostáva pomenovanému človeku.

Riziká, kontroly a reakcie

Informačný asistent

Včasný signál: Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Signál sa rozkladá podľa aktíva, roly, integrácie, verzie a prostredia. Výpadok monitorovania sa zobrazuje ako osobitný incident, nie ako zelená nula.

Kontrola: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Kontrola má preventívnu, detekčnú alebo nápravnú funkciu a pravidelne sa testuje proti realistickému spôsobu obídenia. Jej vlastník pozná závislosti aj postup pri zlyhaní.

Reakcia: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Zachová sa časová os, vstupy, konfigurácia, identita, vykonané akcie a dotknuté rozhodnutia. Potvrdená príčina vytvorí regresný test a termín overenia účinnosti. Offline eval, online monitoring a incidentné učenie tvoria jeden cyklus; ani jedna vrstva sama nestačí.

Interný poradca

Včasný signál: Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Signál sa rozkladá podľa aktíva, roly, integrácie, verzie a prostredia. Výpadok monitorovania sa zobrazuje ako osobitný incident, nie ako zelená nula.

Kontrola: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Kontrola má preventívnu, detekčnú alebo nápravnú funkciu a pravidelne sa testuje proti realistickému spôsobu obídenia. Jej vlastník pozná závislosti aj postup pri zlyhaní.

Reakcia: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Zachová sa časová os, vstupy, konfigurácia, identita, vykonané akcie a dotknuté rozhodnutia. Potvrdená príčina vytvorí regresný test a termín overenia účinnosti. Pamäť, log, embedding, cache a export sú dátové odvodeniny so svojím účelom, prístupom, retenciou a výmazom.

Transakčný asistent

Včasný signál: Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Signál sa rozkladá podľa aktíva, roly, integrácie, verzie a prostredia. Výpadok monitorovania sa zobrazuje ako osobitný incident, nie ako zelená nula.

Kontrola: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Kontrola má preventívnu, detekčnú alebo nápravnú funkciu a pravidelne sa testuje proti realistickému spôsobu obídenia. Jej vlastník pozná závislosti aj postup pri zlyhaní.

Reakcia: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Zachová sa časová os, vstupy, konfigurácia, identita, vykonané akcie a dotknuté rozhodnutia. Potvrdená príčina vytvorí regresný test a termín overenia účinnosti. Agent navrhuje a vykonáva iba v povolenom rozsahu; zodpovednosť za systémový výsledok a zostatkové riziko ostáva pomenovanému človeku.

Citlivá rada

Včasný signál: Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Signál sa rozkladá podľa aktíva, roly, integrácie, verzie a prostredia. Výpadok monitorovania sa zobrazuje ako osobitný incident, nie ako zelená nula.

Kontrola: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Kontrola má preventívnu, detekčnú alebo nápravnú funkciu a pravidelne sa testuje proti realistickému spôsobu obídenia. Jej vlastník pozná závislosti aj postup pri zlyhaní.

Reakcia: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Zachová sa časová os, vstupy, konfigurácia, identita, vykonané akcie a dotknuté rozhodnutia. Potvrdená príčina vytvorí regresný test a termín overenia účinnosti. Model je pravdepodobnostný komponent; oprávnenie, zdroj pravdy a potvrdenie účinku riadi aplikácia a zodpovedný človek.

Prevádzková zmena

Včasný signál: Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Signál sa rozkladá podľa aktíva, roly, integrácie, verzie a prostredia. Výpadok monitorovania sa zobrazuje ako osobitný incident, nie ako zelená nula.

Kontrola: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Kontrola má preventívnu, detekčnú alebo nápravnú funkciu a pravidelne sa testuje proti realistickému spôsobu obídenia. Jej vlastník pozná závislosti aj postup pri zlyhaní.

Reakcia: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Zachová sa časová os, vstupy, konfigurácia, identita, vykonané akcie a dotknuté rozhodnutia. Potvrdená príčina vytvorí regresný test a termín overenia účinnosti. Úzky use case s merateľným outcome je spoľahlivejší základ než univerzálny chatbot bez hraníc.

Laboratórium AI asistenta: kontrolované cvičenia a dôkazové záznamy

Nasledujúce záznamy kombinujú konkrétnu praktiku, realistický scenár, metriku a riziko. Slúžia ako šablóny na autorizované testovanie a kontrolu; každý tím ich musí prispôsobiť vlastnému systému, právnemu režimu, dátam a cene zlyhania.

Laboratórium AI asistenta 1: Informačný asistent × Interný poradca

Tento záznam skúma situáciu „Zamestnanec hľadá postup v interných smerniciach.“ cez praktiku informačný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie.

Implementácia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.

Modelovaný spôsob zlyhania znie: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Riadená reakcia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Očakávaný výsledok musí preukázať: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Za rozhodnutie zodpovedá Vlastník informácií.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje neoprávnený alebo chybný účinok: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metriku použije takto: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Kontrolór preveruje pascu „Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti.“ a riziko interný poradca, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Pred uzavretím sa vykoná kontrola „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Model je pravdepodobnostný komponent; oprávnenie, zdroj pravdy a potvrdenie účinku riadi aplikácia a zodpovedný človek.

Laboratórium AI asistenta 2: Interný poradca × Citlivá rada

Tento záznam skúma situáciu „Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.“ cez praktiku interný poradca. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach.

Implementácia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.

Modelovaný spôsob zlyhania znie: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Riadená reakcia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Očakávaný výsledok musí preukázať: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Za rozhodnutie zodpovedá Risk owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje úspech úlohy s kritickou podmienkou: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metriku použije takto: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Kontrolór preveruje pascu „Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty.“ a riziko informačný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Pred uzavretím sa vykoná kontrola „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Úzky use case s merateľným outcome je spoľahlivejší základ než univerzálny chatbot bez hraníc.

Laboratórium AI asistenta 3: Transakčný asistent × Informačný asistent

Tento záznam skúma situáciu „Verejnosť sa pýta na služby organizácie.“ cez praktiku transakčný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku.

Implementácia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.

Modelovaný spôsob zlyhania znie: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Riadená reakcia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Očakávaný výsledok musí preukázať: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Za rozhodnutie zodpovedá Vlastník služby.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje ľudská korekcia a eskalácia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metriku použije takto: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Kontrolór preveruje pascu „Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu.“ a riziko prevádzková zmena, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Pred uzavretím sa vykoná kontrola „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Citácia je užitočná iba vtedy, keď zdroj skutočne podporuje tvrdenie, je platný a používateľ ho smie vidieť.

Laboratórium AI asistenta 4: Citlivá rada × Transakčný asistent

Tento záznam skúma situáciu „Používateľ chce zmeniť rezerváciu alebo objednávku.“ cez praktiku citlivá rada. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.

Implementácia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.

Modelovaný spôsob zlyhania znie: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Riadená reakcia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Očakávaný výsledok musí preukázať: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Za rozhodnutie zodpovedá Vlastník procesu.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje uzemnenosť a správnosť pôvodu: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metriku použije takto: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Kontrolór preveruje pascu „Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu.“ a riziko citlivá rada, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Pred uzavretím sa vykoná kontrola „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Vektorová podobnosť nie je autorizácia, autorita dokumentu ani vecný dôkaz.

Laboratórium AI asistenta 5: Prevádzková zmena × Prevádzková zmena

Tento záznam skúma situáciu „Tím mení model, prompt, index alebo nástroj.“ cez praktiku prevádzková zmena. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Konkrétny kontext je: Tím mení model, prompt, index alebo nástroj.

Implementácia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.

Modelovaný spôsob zlyhania znie: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Riadená reakcia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Očakávaný výsledok musí preukázať: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Za rozhodnutie zodpovedá Service owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje náklad a latencia na prijatý výsledok: Celkové modelové, infraštruktúrne, retrieval, review, opravné a prevádzkové náklady a čas na výsledok, ktorý splnil akceptačné kritériá. Metriku použije takto: Porovnáva architektúry, modely, cache, routing a úroveň autonómie podľa skutočnej hodnoty. Kontrolór preveruje pascu „Cena jednej odpovede ignoruje retry, review, incidenty a nepoužité výstupy.“ a riziko transakčný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Pred uzavretím sa vykoná kontrola „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Nedôveryhodný obsah ostáva dátom aj vtedy, keď vyzerá ako presvedčivá inštrukcia pre agenta.

Laboratórium AI asistenta 6: Informačný asistent × Interný poradca

Tento záznam skúma situáciu „Zamestnanec hľadá postup v interných smerniciach.“ cez praktiku informačný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie.

Implementácia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.

Modelovaný spôsob zlyhania znie: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Riadená reakcia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Očakávaný výsledok musí preukázať: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Za rozhodnutie zodpovedá Vlastník informácií.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje neoprávnený alebo chybný účinok: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metriku použije takto: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Kontrolór preveruje pascu „Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti.“ a riziko interný poradca, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Pred uzavretím sa vykoná kontrola „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Každý nástroj má najmenšie oprávnenie, typovaný kontrakt, limit, auditnú stopu a bezpečný stav pri zlyhaní.

Laboratórium AI asistenta 7: Interný poradca × Citlivá rada

Tento záznam skúma situáciu „Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.“ cez praktiku interný poradca. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach.

Implementácia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.

Modelovaný spôsob zlyhania znie: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Riadená reakcia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Očakávaný výsledok musí preukázať: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Za rozhodnutie zodpovedá Risk owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje úspech úlohy s kritickou podmienkou: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metriku použije takto: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Kontrolór preveruje pascu „Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty.“ a riziko informačný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Pred uzavretím sa vykoná kontrola „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Ľudské schválenie je účinné iba vtedy, keď človek vidí zámer, zdroj, zmenu, riziko, cenu a možnosť návratu.

Laboratórium AI asistenta 8: Transakčný asistent × Informačný asistent

Tento záznam skúma situáciu „Verejnosť sa pýta na služby organizácie.“ cez praktiku transakčný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku.

Implementácia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.

Modelovaný spôsob zlyhania znie: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Riadená reakcia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Očakávaný výsledok musí preukázať: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Za rozhodnutie zodpovedá Vlastník služby.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje ľudská korekcia a eskalácia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metriku použije takto: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Kontrolór preveruje pascu „Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu.“ a riziko prevádzková zmena, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Pred uzavretím sa vykoná kontrola „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Offline eval, online monitoring a incidentné učenie tvoria jeden cyklus; ani jedna vrstva sama nestačí.

Laboratórium AI asistenta 9: Citlivá rada × Transakčný asistent

Tento záznam skúma situáciu „Používateľ chce zmeniť rezerváciu alebo objednávku.“ cez praktiku citlivá rada. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.

Implementácia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.

Modelovaný spôsob zlyhania znie: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Riadená reakcia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Očakávaný výsledok musí preukázať: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Za rozhodnutie zodpovedá Vlastník procesu.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje uzemnenosť a správnosť pôvodu: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metriku použije takto: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Kontrolór preveruje pascu „Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu.“ a riziko citlivá rada, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Pred uzavretím sa vykoná kontrola „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Pamäť, log, embedding, cache a export sú dátové odvodeniny so svojím účelom, prístupom, retenciou a výmazom.

Laboratórium AI asistenta 10: Prevádzková zmena × Prevádzková zmena

Tento záznam skúma situáciu „Tím mení model, prompt, index alebo nástroj.“ cez praktiku prevádzková zmena. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Konkrétny kontext je: Tím mení model, prompt, index alebo nástroj.

Implementácia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.

Modelovaný spôsob zlyhania znie: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Riadená reakcia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Očakávaný výsledok musí preukázať: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Za rozhodnutie zodpovedá Service owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje náklad a latencia na prijatý výsledok: Celkové modelové, infraštruktúrne, retrieval, review, opravné a prevádzkové náklady a čas na výsledok, ktorý splnil akceptačné kritériá. Metriku použije takto: Porovnáva architektúry, modely, cache, routing a úroveň autonómie podľa skutočnej hodnoty. Kontrolór preveruje pascu „Cena jednej odpovede ignoruje retry, review, incidenty a nepoužité výstupy.“ a riziko transakčný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Pred uzavretím sa vykoná kontrola „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Agent navrhuje a vykonáva iba v povolenom rozsahu; zodpovednosť za systémový výsledok a zostatkové riziko ostáva pomenovanému človeku.

Laboratórium AI asistenta 11: Informačný asistent × Interný poradca

Tento záznam skúma situáciu „Zamestnanec hľadá postup v interných smerniciach.“ cez praktiku informačný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie.

Implementácia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.

Modelovaný spôsob zlyhania znie: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Riadená reakcia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Očakávaný výsledok musí preukázať: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Za rozhodnutie zodpovedá Vlastník informácií.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje neoprávnený alebo chybný účinok: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metriku použije takto: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Kontrolór preveruje pascu „Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti.“ a riziko interný poradca, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Pred uzavretím sa vykoná kontrola „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Model je pravdepodobnostný komponent; oprávnenie, zdroj pravdy a potvrdenie účinku riadi aplikácia a zodpovedný človek.

Laboratórium AI asistenta 12: Interný poradca × Citlivá rada

Tento záznam skúma situáciu „Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.“ cez praktiku interný poradca. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach.

Implementácia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.

Modelovaný spôsob zlyhania znie: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Riadená reakcia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Očakávaný výsledok musí preukázať: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Za rozhodnutie zodpovedá Risk owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje úspech úlohy s kritickou podmienkou: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metriku použije takto: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Kontrolór preveruje pascu „Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty.“ a riziko informačný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Pred uzavretím sa vykoná kontrola „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Úzky use case s merateľným outcome je spoľahlivejší základ než univerzálny chatbot bez hraníc.

Laboratórium AI asistenta 13: Transakčný asistent × Informačný asistent

Tento záznam skúma situáciu „Verejnosť sa pýta na služby organizácie.“ cez praktiku transakčný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku.

Implementácia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.

Modelovaný spôsob zlyhania znie: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Riadená reakcia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Očakávaný výsledok musí preukázať: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Za rozhodnutie zodpovedá Vlastník služby.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje ľudská korekcia a eskalácia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metriku použije takto: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Kontrolór preveruje pascu „Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu.“ a riziko prevádzková zmena, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Pred uzavretím sa vykoná kontrola „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Citácia je užitočná iba vtedy, keď zdroj skutočne podporuje tvrdenie, je platný a používateľ ho smie vidieť.

Laboratórium AI asistenta 14: Citlivá rada × Transakčný asistent

Tento záznam skúma situáciu „Používateľ chce zmeniť rezerváciu alebo objednávku.“ cez praktiku citlivá rada. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.

Implementácia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.

Modelovaný spôsob zlyhania znie: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Riadená reakcia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Očakávaný výsledok musí preukázať: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Za rozhodnutie zodpovedá Vlastník procesu.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje uzemnenosť a správnosť pôvodu: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metriku použije takto: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Kontrolór preveruje pascu „Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu.“ a riziko citlivá rada, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Pred uzavretím sa vykoná kontrola „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Vektorová podobnosť nie je autorizácia, autorita dokumentu ani vecný dôkaz.

Laboratórium AI asistenta 15: Prevádzková zmena × Prevádzková zmena

Tento záznam skúma situáciu „Tím mení model, prompt, index alebo nástroj.“ cez praktiku prevádzková zmena. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Konkrétny kontext je: Tím mení model, prompt, index alebo nástroj.

Implementácia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.

Modelovaný spôsob zlyhania znie: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Riadená reakcia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Očakávaný výsledok musí preukázať: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Za rozhodnutie zodpovedá Service owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje náklad a latencia na prijatý výsledok: Celkové modelové, infraštruktúrne, retrieval, review, opravné a prevádzkové náklady a čas na výsledok, ktorý splnil akceptačné kritériá. Metriku použije takto: Porovnáva architektúry, modely, cache, routing a úroveň autonómie podľa skutočnej hodnoty. Kontrolór preveruje pascu „Cena jednej odpovede ignoruje retry, review, incidenty a nepoužité výstupy.“ a riziko transakčný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Pred uzavretím sa vykoná kontrola „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Nedôveryhodný obsah ostáva dátom aj vtedy, keď vyzerá ako presvedčivá inštrukcia pre agenta.

Laboratórium AI asistenta 16: Informačný asistent × Interný poradca

Tento záznam skúma situáciu „Zamestnanec hľadá postup v interných smerniciach.“ cez praktiku informačný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie.

Implementácia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.

Modelovaný spôsob zlyhania znie: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Riadená reakcia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Očakávaný výsledok musí preukázať: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Za rozhodnutie zodpovedá Vlastník informácií.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje neoprávnený alebo chybný účinok: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metriku použije takto: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Kontrolór preveruje pascu „Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti.“ a riziko interný poradca, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Pred uzavretím sa vykoná kontrola „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Každý nástroj má najmenšie oprávnenie, typovaný kontrakt, limit, auditnú stopu a bezpečný stav pri zlyhaní.

Laboratórium AI asistenta 17: Interný poradca × Citlivá rada

Tento záznam skúma situáciu „Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.“ cez praktiku interný poradca. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach.

Implementácia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.

Modelovaný spôsob zlyhania znie: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Riadená reakcia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Očakávaný výsledok musí preukázať: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Za rozhodnutie zodpovedá Risk owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje úspech úlohy s kritickou podmienkou: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metriku použije takto: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Kontrolór preveruje pascu „Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty.“ a riziko informačný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Pred uzavretím sa vykoná kontrola „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Ľudské schválenie je účinné iba vtedy, keď človek vidí zámer, zdroj, zmenu, riziko, cenu a možnosť návratu.

Laboratórium AI asistenta 18: Transakčný asistent × Informačný asistent

Tento záznam skúma situáciu „Verejnosť sa pýta na služby organizácie.“ cez praktiku transakčný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku.

Implementácia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.

Modelovaný spôsob zlyhania znie: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Riadená reakcia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Očakávaný výsledok musí preukázať: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Za rozhodnutie zodpovedá Vlastník služby.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje ľudská korekcia a eskalácia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metriku použije takto: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Kontrolór preveruje pascu „Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu.“ a riziko prevádzková zmena, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Pred uzavretím sa vykoná kontrola „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Offline eval, online monitoring a incidentné učenie tvoria jeden cyklus; ani jedna vrstva sama nestačí.

Laboratórium AI asistenta 19: Citlivá rada × Transakčný asistent

Tento záznam skúma situáciu „Používateľ chce zmeniť rezerváciu alebo objednávku.“ cez praktiku citlivá rada. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.

Implementácia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.

Modelovaný spôsob zlyhania znie: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Riadená reakcia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Očakávaný výsledok musí preukázať: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Za rozhodnutie zodpovedá Vlastník procesu.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje uzemnenosť a správnosť pôvodu: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metriku použije takto: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Kontrolór preveruje pascu „Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu.“ a riziko citlivá rada, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Pred uzavretím sa vykoná kontrola „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Pamäť, log, embedding, cache a export sú dátové odvodeniny so svojím účelom, prístupom, retenciou a výmazom.

Laboratórium AI asistenta 20: Prevádzková zmena × Prevádzková zmena

Tento záznam skúma situáciu „Tím mení model, prompt, index alebo nástroj.“ cez praktiku prevádzková zmena. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Konkrétny kontext je: Tím mení model, prompt, index alebo nástroj.

Implementácia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.

Modelovaný spôsob zlyhania znie: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď. Riadená reakcia je: Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie. Očakávaný výsledok musí preukázať: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Za rozhodnutie zodpovedá Service owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje náklad a latencia na prijatý výsledok: Celkové modelové, infraštruktúrne, retrieval, review, opravné a prevádzkové náklady a čas na výsledok, ktorý splnil akceptačné kritériá. Metriku použije takto: Porovnáva architektúry, modely, cache, routing a úroveň autonómie podľa skutočnej hodnoty. Kontrolór preveruje pascu „Cena jednej odpovede ignoruje retry, review, incidenty a nepoužité výstupy.“ a riziko transakčný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Pred uzavretím sa vykoná kontrola „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Agent navrhuje a vykonáva iba v povolenom rozsahu; zodpovednosť za systémový výsledok a zostatkové riziko ostáva pomenovanému človeku.

Laboratórium AI asistenta 21: Informačný asistent × Interný poradca

Tento záznam skúma situáciu „Zamestnanec hľadá postup v interných smerniciach.“ cez praktiku informačný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Konkrétny kontext je: Verejnosť sa pýta na služby organizácie.

Implementácia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.

Modelovaný spôsob zlyhania znie: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Riadená reakcia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Očakávaný výsledok musí preukázať: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Za rozhodnutie zodpovedá Vlastník informácií.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje neoprávnený alebo chybný účinok: Počet pokusov a vykonaných akcií mimo účelu, identity, scope, limitu, schválenia alebo očakávaného stavu. Metriku použije takto: Určuje oprávnenia nástrojov, approval brány, kill switch a incident response. Kontrolór preveruje pascu „Nulový počet pri chýbajúcej telemetrii nie je dôkaz bezpečnosti.“ a riziko interný poradca, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Pred uzavretím sa vykoná kontrola „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Model je pravdepodobnostný komponent; oprávnenie, zdroj pravdy a potvrdenie účinku riadi aplikácia a zodpovedný človek.

Laboratórium AI asistenta 22: Interný poradca × Citlivá rada

Tento záznam skúma situáciu „Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.“ cez praktiku interný poradca. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie. Konkrétny kontext je: Zamestnanec hľadá postup v interných smerniciach.

Implementácia je: Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.

Modelovaný spôsob zlyhania znie: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Riadená reakcia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Očakávaný výsledok musí preukázať: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Za rozhodnutie zodpovedá Risk owner.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje úspech úlohy s kritickou podmienkou: Podiel reprezentatívnych úloh v téme architektúra dôveryhodného ai asistenta, ktoré dosiahnu správny používateľský výsledok; osobitne sa sleduje nulová tolerancia kritického zlyhania. Metriku použije takto: Rozhoduje o pilote, rozšírení, obmedzení alebo zastavení use case. Kontrolór preveruje pascu „Priemer môže prekryť nebezpečnú chybu malej skupiny alebo privilegovanej cesty.“ a riziko informačný asistent, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Pred uzavretím sa vykoná kontrola „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Úzky use case s merateľným outcome je spoľahlivejší základ než univerzálny chatbot bez hraníc.

Laboratórium AI asistenta 23: Transakčný asistent × Informačný asistent

Tento záznam skúma situáciu „Verejnosť sa pýta na služby organizácie.“ cez praktiku transakčný asistent. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Konkrétny kontext je: Používateľ chce zmeniť rezerváciu alebo objednávku.

Implementácia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.

Modelovaný spôsob zlyhania znie: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou. Riadená reakcia je: Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku. Očakávaný výsledok musí preukázať: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie. Za rozhodnutie zodpovedá Vlastník služby.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje ľudská korekcia a eskalácia: Podiel odpovedí či plánov, ktoré človek zásadne opraví, zamietne alebo eskaluje, rozdelený podľa dôvodu a následku. Metriku použije takto: Odhaľuje nevhodnú autonómiu, chýbajúci kontext, nejasné rozhranie a tréningové potreby. Kontrolór preveruje pascu „Nižšia korekcia môže znamenať slepú dôveru, nie vyššiu kvalitu.“ a riziko prevádzková zmena, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Pred uzavretím sa vykoná kontrola „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Citácia je užitočná iba vtedy, keď zdroj skutočne podporuje tvrdenie, je platný a používateľ ho smie vidieť.

Laboratórium AI asistenta 24: Citlivá rada × Transakčný asistent

Tento záznam skúma situáciu „Používateľ chce zmeniť rezerváciu alebo objednávku.“ cez praktiku citlivá rada. Pred testom tím zmrazí rozsah, verziu, účty, povolenia, konfiguračné príznaky, vstupné dáta a očakávaný stav. Pomenúva aktívum, hrozbu alebo spôsob zlyhania, existujúcu bariéru, predpokladaný dosah a stop podmienku. Uplatní dôvod: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka. Konkrétny kontext je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom.

Implementácia je: Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu. Test nesmie poškodiť produkčné dáta ani prekročiť písomné oprávnenie. Ak je realistický pokus nebezpečný, použije sa izolované prostredie, syntetické aktívum, canary údaj alebo table-top simulácia. Za dôkaz sa prijme: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.

Modelovaný spôsob zlyhania znie: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu. Riadená reakcia je: Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy. Očakávaný výsledok musí preukázať: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis. Za rozhodnutie zodpovedá Vlastník procesu.; AI asistent, dodávateľ ani automatizovaný skener túto zodpovednosť nepreberá.

Tím sleduje uzemnenosť a správnosť pôvodu: Podiel podstatných tvrdení podporených platným zdrojom, správnou citáciou, oprávnením a časovou platnosťou. Metriku použije takto: Riadi kvalitu znalostnej bázy, retrievalu, abstencie a obnovy indexu. Kontrolór preveruje pascu „Citácia môže existovať, ale nepodporovať tvrdenie alebo pochádzať zo zastaraného dokumentu.“ a riziko citlivá rada, ktorého signálom je Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Pred uzavretím sa vykoná kontrola „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“. Pri odchýlke nasleduje: Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe. Záznam obsahuje pozorované fakty, nepotvrdené hypotézy, zostatkové riziko, schválenie, záznam nápravy a dátum opätovného testu. Vektorová podobnosť nie je autorizácia, autorita dokumentu ani vecný dôkaz.

Revízne karty pre opakovateľnú prevádzku

Revízna karta 1: Informačný asistent

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Verejnosť sa pýta na služby organizácie. Kritický spôsob zlyhania je: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Kontrolór overí praktiku Citlivá rada pomocou dôkazu „Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.“ použije kontrolu „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 2: Interný poradca

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Zamestnanec hľadá postup v interných smerniciach. Kritický spôsob zlyhania je: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Kontrolór overí praktiku Prevádzková zmena pomocou dôkazu „Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.“ použije kontrolu „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 3: Transakčný asistent

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Používateľ chce zmeniť rezerváciu alebo objednávku. Kritický spôsob zlyhania je: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Kontrolór overí praktiku Informačný asistent pomocou dôkazu „Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.“ použije kontrolu „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 4: Citlivá rada

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom. Kritický spôsob zlyhania je: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Kontrolór overí praktiku Interný poradca pomocou dôkazu „Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.“ použije kontrolu „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 5: Prevádzková zmena

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Tím mení model, prompt, index alebo nástroj. Kritický spôsob zlyhania je: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Kontrolór overí praktiku Transakčný asistent pomocou dôkazu „Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.“ použije kontrolu „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 6: Informačný asistent

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Verejnosť sa pýta na služby organizácie. Kritický spôsob zlyhania je: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Kontrolór overí praktiku Citlivá rada pomocou dôkazu „Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.“ použije kontrolu „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 7: Interný poradca

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Zamestnanec hľadá postup v interných smerniciach. Kritický spôsob zlyhania je: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Kontrolór overí praktiku Prevádzková zmena pomocou dôkazu „Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.“ použije kontrolu „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 8: Transakčný asistent

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Používateľ chce zmeniť rezerváciu alebo objednávku. Kritický spôsob zlyhania je: Model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.

Kontrolór overí praktiku Informačný asistent pomocou dôkazu „Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.“ použije kontrolu „Release manifest, verzovanie, eval brána, canary a rollback celej konfigurácie.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 9: Citlivá rada

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Asistent podporuje rozhodnutie s právnym, zdravotným alebo finančným dosahom. Kritický spôsob zlyhania je: Plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.

Kontrolór overí praktiku Interný poradca pomocou dôkazu „Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.“ použije kontrolu „Oddeliť schválené zdroje, platnosť, citácie, abstenciu a cestu ku človeku.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Golden set preukáže správnosť tvrdenia, zdroja, dátumu a eskalácie.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 10: Prevádzková zmena

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Tím mení model, prompt, index alebo nástroj. Kritický spôsob zlyhania je: Komponenty sa nasadia nezávisle a nie je známe, ktorá kombinácia vytvorila odpoveď.

Kontrolór overí praktiku Transakčný asistent pomocou dôkazu „Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.“ použije kontrolu „Vynútiť ACL pred retrievalom, dedičnosť prístupov, audit a negatívne testy.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Dve identity s rozdielnymi právami vrátia správne odlišné výsledky.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 11: Informačný asistent

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Verejnosť sa pýta na služby organizácie. Kritický spôsob zlyhania je: Asistent spojí správny všeobecný fakt so zastaranou cenou alebo podmienkou.

Kontrolór overí praktiku Citlivá rada pomocou dôkazu „Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že model správne opíše plán, ale nástroj vykoná inú alebo duplicitnú akciu.“ použije kontrolu „Typovaný kontrakt, idempotency key, preview, potvrdenie a receipt zo systému pravdy.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Replay test dokáže, že rovnaká požiadavka nespôsobí druhý zápis.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Revízna karta 12: Interný poradca

Karta eviduje účel, rozsah, systém, verziu, identity, aktíva, dátové toky, závislosti, predpoklady, testovacie oprávnenie, pozorované fakty a zostatkové riziko. Situácia je: Zamestnanec hľadá postup v interných smerniciach. Kritický spôsob zlyhania je: Retrieval zobrazí dokument, na ktorý používateľ nemá oprávnenie.

Kontrolór overí praktiku Prevádzková zmena pomocou dôkazu „Trace reprodukuje výstup na konkrétnej verzii všetkých komponentov.“. Pri signále „Konverzácia, trace, používateľská sťažnosť alebo eval ukazuje, že plynulý výstup sa interpretuje ako odborné rozhodnutie bez potrebného človeka.“ použije kontrolu „Obmedziť use case, zobraziť neistotu, vyžadovať odborný review a bezpečnú eskaláciu.“ a reakciu „Obmedziť dosah, zachovať trace, opraviť príčinu a potvrdiť nápravu dôkazom: Test kritických scenárov potvrdí odmietnutie alebo odovzdanie kvalifikovanej osobe.“. Výstup pomenúva vlastníka, schvaľovateľa, ďalší krok, termín, opätovný test a osoby, ktorým treba zmenu oznámiť. Tak vzniká auditovateľný dôkaz kvality, bezpečnosti a výsledku asistenta, nie iba názor alebo snímka obrazovky.

Deväťdesiatdňový plán zavedenia

Dni 1 až 15: rozsah, aktíva a vlastníctvo

Zostavte inventár systémov, verzií, tokov, účtov, privilegovaných nástrojov, dodávateľov a rozhodnutí, ktoré môže téma ovplyvniť. Pre každý prvok pomenujte vlastníka, chránenú vlastnosť, klasifikáciu dát, súčasnú bariéru a známy neoverený predpoklad. Vyberte jeden ohraničený prípad s jasnou hodnotou a zvládnuteľným dosahom.

Dni 16 až 30: modelovanie a akceptačné kritériá

Pripravte systémová mapa ai asistenta s dôveryhodnými hranicami a raci. Zmapujte dôveryhodné hranice, vstupy, výstupy, identity, závislosti, bežné aj zneužiteľné cesty. Ku každej dôležitej kontrole priraďte konkrétny test, očakávaný výsledok, vlastníka, reakciu na zlyhanie a dôkaz, ktorý možno nezávisle preskúmať.

Dni 31 až 45: izolované testovanie

Testujte v prostredí, ktoré chráni produkciu a osobné údaje. Použite reprezentatívne bežné, hraničné, škodlivé a neznáme vstupy. Oddeľte zlyhanie modelu od zlyhania aplikácie, identity, dát, integrácie alebo procesu. Každé zistenie dostane závažnosť podľa reálneho dosahu a reprodukovateľnosti.

Dni 46 až 60: náprava a retest

Uprednostnite odstránenie nebezpečnej schopnosti, zmenšenie oprávnení a deterministickú validáciu pred ďalšou textovou inštrukciou modelu. Nápravu testujte pôvodným prípadom aj susednými variantmi. Neuzatvárajte nález iba preto, že jedna formulácia prestala fungovať.

Dni 61 až 75: prevádzkový pilot

Pilot spustite na obmedzenej skupine, s jasnou telemetriou, limitmi, pohotovostným vlastníkom a bezpečným záložným postupom. Sledujte kvalitu, zásahy človeka, zablokované pokusy, neznáme stavy, náklady a používateľský dosah. Výnimky majú vlastníka, dôvod a automatické ukončenie platnosti.

Dni 76 až 90: riadenie a učenie

Zaveďte pravidelnú kontrolu pri zmene modelu, dát, nástroja, promptu, oprávnení alebo dodávateľa. Prepojte incidenty, testy, nápravné úlohy a rozhodnutia. Zverejnite primerané informácie pre používateľov a určte spôsob nahlásenia chyby. Nepoužívané funkcie, účty a integrácie bezpečne ukončite.

Ako bol text spracovaný

Text používa primárne štandardy, úradné rámce a dokumentáciu autorov technológie. Odporúčania sú odvodené pre praktický kontext a nepredstavujú právne stanovisko ani záruku bezpečnosti. Funkcie produktov, hrozby a regulačné požiadavky sa menia; pred nasadením sa overí aktuálna dokumentácia a sektorové povinnosti. Konkrétne tvrdenia musia zostať spojené s testom a dátumom platnosti.

Prepojenie s ostatnými kapitolami

• Use case a konverzačný kontrakt - rozširuje prácu o artefakt use-case charter a konverzačný kontrakt s akceptačnými kritériami.
• Znalostná architektúra a RAG - rozširuje prácu o artefakt rag architektúra s retrieval kontraktom, autorizáciou a eval plánom.
• Nástroje, function calling a akčné kontrakty - rozširuje prácu o artefakt katalóg nástrojov s typovanými kontraktmi, oprávneniami a receipt modelom.
• Agentické workflow a orchestrácia - rozširuje prácu o artefakt stavový model agentického workflow s risk-tiered autonómiou.

Odborné zdroje a odporúčaná literatúra

Zdroje boli vybrané tak, aby čitateľ vedel rozlíšiť všeobecný rámec, technickú taxonómiu, implementačné usmernenie a právny kontext. Pri konflikte marketingovej stránky a normatívneho dokumentu má prednosť aktuálna primárna dokumentácia.

1. OpenAI API - Responses and tools - Primárna referencia odpovedí, volania nástrojov a stavu agentického behu; dostupnosť konkrétnych funkcií sa overuje pri implementácii.
2. NIST - AI Risk Management Framework - Oficiálny rámec Govern, Map, Measure a Manage pre dôveryhodné riadenie AI rizík.
3. NIST - Generative AI Profile - Oficiálny profil rizík generatívnej AI, merania, pôvodu obsahu, incidentov a ľudského dohľadu.
4. OWASP - Top 10 for LLM and GenAI - Aktuálna taxonómia významných aplikačných rizík jazykových modelov a generatívnych systémov.
5. CISA a NCSC - Guidelines for Secure AI System Development - Oficiálne usmernenie secure-by-design naprieč návrhom, vývojom, nasadením a prevádzkou AI.
6. Európska komisia - Zásady GDPR - Oficiálne vysvetlenie zákonnosti, účelového obmedzenia, minimalizácie, presnosti, uchovávania a bezpečnosti osobných údajov.
7. OpenAI API - Vector store search - Primárna referencia vyhľadávania vo vektorovom úložisku, výsledkov, skóre a atribútov.
8. OpenAI API - Evals - Primárna referencia tvorby evalov a opakovateľného hodnotenia správania AI systému.
9. NIST - Zero Trust Architecture - Autoritatívny rámec explicitného overovania identity, zariadenia, zdroja a oprávnenia namiesto implicitnej dôvery.

Záver: Architektúra dôveryhodného AI asistenta

AI asistent nie je iba model s promptom; je to sociotechnický systém identity, kontextu, znalostí, nástrojov, pravidiel, rozhrania, ľudského dohľadu a prevádzkových dôkazov. Praktický výsledok má podobu artefaktu systémová mapa AI asistenta s dôveryhodnými hranicami a RACI, ktorý spája hranicu, kontrolu, dôkaz a rozhodnutie. Najvyššiu hodnotu nemá najdlhší report, ale ochrana, ktorej účinnosť možno ukázať v realistickom scenári a znova overiť po zmene.