272 expertov hodnotilo riziká AI. Toto je päť problémov, ktoré považujú za najvážnejšie

Autor: Marek Rodák Oblasť: AI Governance Aktualizované: september 2026

Keď sa firmy rozprávajú o rizikách umelej inteligencie, diskusia sa často veľmi rýchlo zúži na niekoľko známych tém. Zamestnanci nesmú vkladať citlivé dáta do verejných chatbotov. AI môže halucinovať. Treba si dávať pozor na GDPR. Výstup by mal niekto skontrolovať.

To všetko je správne. Lenže s rastúcimi schopnosťami umelej inteligencie sa mení aj charakter rizík.

Výskumníci z MIT FutureTech a University of Queensland sa preto rozhodli položiť trochu inú otázku: Ktoré riziká umelej inteligencie by sme mali brať najvážnejšie v najbližších rokoch?

Do výskumu zapojili 272 odborníkov na AI z 37 krajín. Experti neposudzovali iba to, či určitý problém existuje. Hodnotili 24 rizikových oblastí podľa pravdepodobnosti, možnej závažnosti škôd, zraniteľnosti jednotlivých sektorov a tiež podľa toho, kto by mal niesť najväčšiu zodpovednosť za ich riešenie. Použitá bola Delphi metóda, teda viacstupňový spôsob získavania odborného konsenzu.

Výsledok stojí za pozornosť.

Medzi päť rizík s najvyššou očakávanou závažnosťou odborníci zaradili nebezpečné schopnosti AI, konkurenčnú dynamiku, zneužitie AI pri kybernetických útokoch a ďalších formách rozsiahleho poškodenia, koncentráciu moci a šírenie nepravdivých alebo zavádzajúcich informácií.

Dôležité však je, čo z týchto výsledkov vyplýva pre firmy a inštitúcie. Pretože štúdia nie je iba zoznamom katastrofických scenárov. V skutočnosti veľmi dobre ukazuje, ako sa musí meniť spôsob, akým pristupujeme k AI governance.

1. Nebezpečné schopnosti AI: problém začína vtedy, keď systém dokáže viac, než sme pripravení riadiť

Pri používaní bežného chatbota je jednoduché predstaviť si riziko ako nesprávnu odpoveď.

S rastúcou autonómiou systémov sa však situácia mení.

AI už nemusí iba odpovedať na otázku. Môže analyzovať veľké množstvo dát, používať nástroje, komunikovať s ďalšími systémami, vytvárať programový kód alebo vykonávať postupnosť úloh bez toho, aby človek schvaľoval každý jednotlivý krok.

Samotná schopnosť systému nie je problémom. Práve rast schopností je dôvodom, prečo je AI ekonomicky zaujímavá.

Riziko vzniká v momente, keď schopnosť systému rastie rýchlejšie než naša schopnosť kontrolovať spôsob jeho použitia.

Experti v štúdii preto kategóriu „dangerous capabilities“ zaradili medzi najvážnejšie riziká najbližších piatich rokov. V scenári, kde sa uplatnia praktické a ekonomicky realizovateľné opatrenia na zmiernenie rizík, jej stále pripisovali 12-percentnú pravdepodobnosť katastrofických následkov podľa definície používanej v štúdii.

Toto číslo však treba interpretovať správne. Nie je to štatistická predpoveď, že existuje presne 12-percentná pravdepodobnosť konkrétnej katastrofy. Ide o agregované expertné hodnotenie v rámci zvoleného scenára a metodiky.

Pre firmu je oveľa praktickejšia iná otázka.

Ak AI systém niečo dokáže, znamená to automaticky, že mu to máme dovoliť?

Nie.

Agent môže technicky vedieť pracovať s firemným e-mailom, databázou, CRM aj dokumentovým systémom. AI governance však musí určiť, ku ktorým systémom má prístup, čo môže vykonať samostatne a ktorá operácia už vyžaduje súhlas človeka.

S rastom schopností AI bude práve táto hranica čoraz dôležitejšia.

2. Konkurenčný tlak môže firmy prinútiť nasadzovať AI skôr, než sú pripravené

Druhé riziko je na prvý pohľad zvláštne.

Nie je ním konkrétny algoritmus ani technická chyba. Je ním konkurencia.

Predstavme si trh, na ktorom jeden hráč začne pomocou AI znižovať náklady, automatizovať zákaznícku podporu a zrýchľovať vývoj produktov. Konkurenti začnú cítiť tlak.

Ak AI nezavedú, môžu zaostať.

Ak ju zavedú príliš rýchlo, môžu vytvoriť nové bezpečnostné, právne alebo prevádzkové riziká.

MIT výskumníci preto hovoria o konkurenčnej dynamike ako o „inštrumentálnom riziku“. Sama osebe nemusí vytvárať škodu, ale môže zosilňovať množstvo ďalších problémov. Keď firmy alebo štáty očakávajú od AI významnú ekonomickú či strategickú výhodu, rastie motivácia konať rýchlo a menej investovať do bezpečnostných opatrení.

To je veľmi praktický problém.

Dnes totiž vzniká zvláštny nepomer. Zaviesť nový AI nástroj môže firma v niektorých prípadoch za pár dní. Vybudovať kvalitné pravidlá, proces hodnotenia rizík, školenia zamestnancov, systém oprávnení a kontrolu výstupov trvá podstatne dlhšie.

Technologická adopcia tak môže predbehnúť governance.

Presne tomu by sa mali organizácie vyhnúť.

Riešením nie je brzdiť všetky inovácie. Rozumnejšie je vytvoriť proces, v ktorom sa rýchlosť nasadzovania prispôsobuje rizikovosti konkrétneho použitia.

AI, ktorá pomáha vytvoriť prvý návrh marketingového textu, nepotrebuje rovnakú úroveň kontroly ako systém, ktorý pracuje s osobnými údajmi, finančnými rozhodnutiami alebo kritickou infraštruktúrou.

3. Kybernetická bezpečnosť dostáva s AI nový rozmer

Kybernetické riziko nie je nové. AI však dokáže meniť jeho rozsah aj rýchlosť.

Dôvod je pomerne jednoduchý. Moderné modely patria medzi nástroje, ktoré veľmi dobre pracujú s programovým kódom, vzormi a veľkým množstvom informácií.

To, čo je výhodou pre programátora, môže byť výhodou aj pre útočníka.

Výskumníci MIT preto zaradili zneužitie AI pri kybernetických útokoch a ďalších formách rozsiahleho poškodenia medzi najvyššie hodnotené riziká. Experti upozorňovali najmä na možnosť zrýchľovať niektoré časti kybernetickej práce, analyzovať zraniteľnosti a automatizovať činnosti, ktoré predtým vyžadovali viac času alebo znalostí.

Európska agentúra ENISA zároveň vo svojom Threat Landscape 2025 opisuje už oveľa konkrétnejšie problémy. Zaznamenáva napríklad podvodné weby napodobňujúce legitímne AI služby, škodlivé balíčky v softvérovom dodávateľskom reťazci a nové útoky zamerané na prostredia, v ktorých sa používajú AI programátorské asistenty.

AI tak v kybernetickej bezpečnosti hrá dvojitú úlohu.

Útočníkom pomáha škálovať niektoré aktivity. Obrancovia ju však zároveň používajú na detekciu anomálií, analýzu incidentov, kontrolu kódu či rýchlejšie spracovanie bezpečnostných dát.

Výsledkom nemusí byť automaticky prevaha útočníkov.

Skôr sa zrýchľujú obe strany.

Pre organizáciu preto prestáva stačiť otázka „Máme kybernetickú bezpečnosť?“. Potrebujeme vedieť aj to, ako AI mení náš vlastný útočný povrch.

Nové AI riešenie totiž nie je iba ďalšia aplikácia. Môže byť napojené na interné zdroje, dáta a ďalšie systémy. Čím širší prístup dostane, tým väčšiu pozornosť si zaslúži jeho bezpečnostný model.

4. Koncentrácia moci: čo ak najväčšiu hodnotu z AI získa iba niekoľko hráčov?

Nie všetky problémy umelej inteligencie vznikajú chybou modelu.

Niektoré vznikajú z toho, kto model vlastní.

Vývoj špičkových systémov je kapitálovo mimoriadne náročný. Vyžaduje dátové centrá, obrovský výpočtový výkon, špecializované čipy, dáta, odborníkov a prístup k energetickej infraštruktúre.

To prirodzene zvýhodňuje malý počet technologických spoločností a štátov.

Experti v štúdii preto medzi päť najvážnejších oblastí zaradili aj centralizáciu moci a nerovnomerné rozdelenie výhod AI. Aj po započítaní pragmatických opatrení na obmedzovanie rizika patrila táto kategória medzi päť oblastí, ktorým expertný panel pripísal aspoň desaťpercentnú pravdepodobnosť katastrofických následkov podľa definície štúdie.

Pre bežného používateľa môže tento problém pôsobiť vzdialene. Pre ekonomiku je však zásadný.

Ak niekoľko spoločností kontroluje základné modely, infraštruktúru, distribučné kanály a obrovské množstvo dát, môže sa postupne meniť vyjednávacia pozícia ostatných firiem.

Organizácia môže napríklad postaviť významnú časť svojich procesov na jednom modelovom poskytovateľovi a následne zistiť, že je od neho technologicky aj ekonomicky závislá.

AI governance preto nie je len o bezpečnosti a regulácii.

Patrí do nej aj vendor risk.

Čo sa stane, ak poskytovateľ zmení cenu? Ak prestane podporovať model? Ak zmení podmienky spracovania dát? Dokážeme systém nahradiť? Vieme preniesť svoje dáta a procesy inam?

Čím hlbšie bude AI zabudovaná do podnikových procesov, tým menej budú tieto otázky teoretické.

5. Nepravdivé informácie: problémom už nie je len to, či niečo dokážeme sfalšovať

Digitálne falšovanie existovalo dávno pred generatívnou AI.

Rozdiel je v cene, kvalite a rýchlosti.

Vytvoriť presvedčivý falošný text, obrázok, hlas alebo video bolo kedysi pomerne náročné. Generatívna AI túto bariéru výrazne znížila.

Ale to je iba jedna polovica problému.

Druhou sú nepravdivé informácie, ktoré model vytvorí bez úmyslu klamať. Jazykový model môže poskytnúť fakticky nesprávnu odpoveď, vymyslieť zdroj alebo vytvoriť interpretáciu, ktorá pôsobí presvedčivo, hoci nemá dostatočnú oporu v dátach.

Stanford AI Index 2026 upozorňuje, že napriek rastúcemu počtu benchmarkov zostáva hodnotenie zodpovednosti AI pozadu za rastom schopností a nasadzovania modelov. Databáza AI Incident Database zaznamenala v roku 2025 celkovo 362 incidentov oproti 233 v roku 2024.

V informačnom priestore vzniká ešte jeden problém.

Ak bude syntetického obsahu dostatok, nemusíme prestať veriť iba jednotlivým falošným fotografiám. Môžeme postupne začať pochybovať aj o autentických.

Tým sa mení samotná hodnota dôkazu.

Výskum MIT preto označil informačný sektor za jeden z troch najzraniteľnejších. Riziká tu zahŕňajú dezinformácie, manipuláciu, stratu súkromia a všeobecné narušovanie dôvery v obsah, ktorý ľudia vidia a čítajú.

Európsky AI Act na tento vývoj reaguje aj pravidlami transparentnosti. Od 2. augusta 2026 sa uplatňujú povinnosti podľa článku 50 pre určité AI systémy a syntetický obsah. Európska komisia v júli 2026 vydala aj osobitné usmernenia k ich implementácii.

Technické označovanie syntetického obsahu samo osebe dezinformácie nevyrieši. Je však jednou z častí širšej odpovede.

Číslo, ktoré zo štúdie priťahuje najväčšiu pozornosť

Výskum obsahuje jeden výsledok, ktorý sa veľmi ľahko môže zmeniť na titulok.

V scenári označovanom ako business as usual považovali experti 18 z 24 hodnotených kategórií za také, pri ktorých existuje najmenej desaťpercentná pravdepodobnosť katastrofických následkov do roku 2030. Výskumníci katastrofický výsledok definovali napríklad ako škodu zahŕňajúcu viac než milión úmrtí, ekonomické straty nad 100 miliárd dolárov alebo porovnateľne závažnú nehmotnú škodu.

Je to vysoké číslo.

Zároveň ho nemožno čítať ako klasickú poistno-matematickú pravdepodobnosť.

Delphi štúdia pracuje s odborným úsudkom. Hodnotenie vyjadruje, ako skupina expertov posudzuje neistú budúcnosť podľa zadanej metodiky. Nie je empirickým meraním frekvencie udalostí, ktoré by sa už mnohokrát opakovali.

Práve preto je užitočnejšie chápať výsledok ako signál priorít, nie ako presnú predpoveď budúcnosti.

A presne tak ho interpretujú aj samotní autori. Cieľom výskumu podľa MIT nie je tvrdiť, že sa uvedené udalosti určite stanú. Má upozorniť na oblasti, ktorým odborníci pripisujú dostatočne veľkú kombináciu pravdepodobnosti a možnej škody na to, aby sme sa im venovali už dnes.

Najzraniteľnejšie sú tri oblasti: informácie, bezpečnosť a financie

Štúdia priniesla ešte jedno zaujímavé zistenie.

Riziko AI nie je rozložené rovnomerne.

Experti označili za najviac exponované informačný sektor, národnú bezpečnosť a financie.

Dáva to logiku.

V informačnom priestore dokáže AI dramaticky zvýšiť množstvo a presvedčivosť syntetického obsahu.

V oblasti bezpečnosti môže urýchľovať analýzu obrovského množstva informácií a vytvárať nové možnosti zneužitia.

Vo financiách sa prepája rýchlosť automatizovaných systémov s peniazmi, osobnými údajmi, podvodmi a systémovým rizikom.

Práve preto nedáva veľký zmysel vytvoriť jednu univerzálnu AI smernicu a považovať tým governance za vybavenú.

Riziko musí byť hodnotené v kontexte konkrétneho procesu.

Marketingový tím používajúci AI na brainstorming má úplne iný profil rizika než banka používajúca model pri hodnotení klienta.

A teraz najzaujímavejší paradox: najväčšie riziko nenesú tí, ktorí ho najlepšie dokážu ovplyvniť

Výskum ukázal výrazný rozdiel medzi zodpovednosťou a zraniteľnosťou.

Za riešenie rizík považovali experti za najzodpovednejších predovšetkým vývojárov všeobecných AI modelov a aktérov governance – vlády, regulačné orgány a štandardizačné inštitúcie.

Najzraniteľnejší sú však používatelia a širšia verejnosť.

To vytvára problém motivácií.

Človek používajúci systém často nemá možnosť vidieť tréningové dáta, zmeniť architektúru modelu ani vykonať jeho bezpečnostný audit. Napriek tomu môže znášať následky nesprávneho rozhodnutia.

Firma zase často používa model vytvorený niekým iným, no zodpovedá za spôsob, akým ho vložila do svojho procesu.

Práve preto AI governance nemôže existovať iba na jednej úrovni.

Vývojár musí riadiť model. Poskytovateľ aplikáciu. Organizácia spôsob nasadenia. Používateľ konkrétne použitie. A štát vytvára hranice, za ktorými už nestačí dobrovoľná kontrola.

Čo z toho vyplýva pre firmu

NIST už niekoľko rokov odporúča pristupovať k riziku AI počas celého životného cyklu systému. Jeho Generative AI Profile rozširuje AI Risk Management Framework práve o špecifické riziká generatívnej umelej inteligencie.

MIT štúdia k tomu pridáva ďalší dôležitý pohľad.

Nestačí riziká iba pomenovať. Musíme ich priorizovať.

Firma môže vytvoriť register s päťdesiatimi rizikami a mať pocit, že má AI governance zvládnutú. Ak však nevie, ktoré tri z nich sú pre jej podnikanie najdôležitejšie, vytvorila skôr administratívu než systém riadenia.

Dobrá governance by preto mala začínať pri konkrétnych use cases.

Čo systém robí? S akými dátami? Aké rozhodnutia ovplyvňuje? Čo sa stane, keď sa pomýli? Dokáže konať samostatne? Kto výstup kontroluje? Od ktorého dodávateľa závisíme? A aká je maximálna škoda, ktorú môže jedno zlyhanie spôsobiť?

Takéto otázky sú oveľa užitočnejšie než všeobecné tvrdenie, že „AI predstavuje riziko“.

Najdôležitejší záver štúdie možno nie je ani v prvej päťke rizík.

Je v rýchlosti, akou sa menia.

Peter Slattery z MIT FutureTech upozorňuje, že organizácie nemôžu k AI pristupovať ako k jednorazovej technologickej zmene. Schopnosti modelov, spôsoby ich používania aj súvisiace riziká sa vyvíjajú príliš rýchlo.

To mení aj význam AI governance.

Nestačí napísať smernicu v roku 2026 a v roku 2029 skontrolovať, či stále platí.

Firma môže dnes schváliť nástroj, ktorý funguje ako chatbot. O niekoľko mesiacov môže ten istý produkt dostať agentické funkcie, prístup k ďalším aplikáciám a schopnosť samostatne vykonávať úlohy.

Názov produktu zostal rovnaký.

Rizikový profil nie.

Preto bude kvalitná AI governance čoraz menej pripomínať vytvorenie jedného dokumentu a čoraz viac kontinuálne riadenie technologického rizika.

A možno práve toto je najdôležitejšie posolstvo výskumu 272 expertov.

Nemusíme vedieť presne predpovedať, čo AI spôsobí v roku 2030.

Musíme však vedieť, kde môže spôsobiť najväčšiu škodu, kto ju dokáže obmedziť a či naše kontrolné mechanizmy rastú aspoň približne rovnakým tempom ako schopnosti systémov, ktoré zavádzame.

O autorovi

Marek Rodák sa venuje oblasti AI Governance, teda praktickému riadeniu umelej inteligencie v organizáciách so zameraním na identifikáciu rizík, pravidlá používania, zodpovednosť, bezpečnosť a zavádzanie AI do firemných a organizačných procesov.

Aktualizované: september 2026

Metodika článku

Hlavným východiskom článku je výskum Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts, ktorý vznikol v rámci MIT FutureTech a University of Queensland.

Výskum využil trojkolovú Delphi metódu a pracoval s 272 expertmi z 37 krajín. Účastníci hodnotili 24 kategórií rizík z hľadiska pravdepodobnosti a závažnosti škody, zraniteľnosti jednotlivých aktérov a sektorov a zodpovednosti za ich zmierňovanie. Hodnotené obdobie bolo 2025 – 2030.

Percentuálne výsledky uvádzané v texte predstavujú expertné odhady v rámci tejto metodiky, nie objektívne vypočítané pravdepodobnosti budúcich udalostí. Článok ich preto interpretuje ako nástroj prioritizácie rizík, nie ako prognózu.

Zistenia boli porovnané najmä s rámcom NIST AI Risk Management Framework, údajmi Stanford AI Index 2026, aktuálnou bezpečnostnou analýzou ENISA a regulačným rámcom EÚ AI Act.

Hlavné zdroje

MIT FutureTech & University of Queensland: Noetel, M., Slattery, P., Saeri, A. K., Graham, J., Thompson, N. a kol. – Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts, 2026.

MIT Sloan School of Management: These are the most urgent AI risks, according to 272 experts, júl 2026.

MIT AI Risk Initiative: AI Risk Repository – priebežne aktualizovaná taxonómia a databáza rizík spojených s umelou inteligenciou.

NIST: Artificial Intelligence Risk Management Framework 1.0 a Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1).

Stanford University – Human-Centered Artificial Intelligence: AI Index Report 2026 – Responsible AI.

ENISA: ENISA Threat Landscape 2025 – analýza európskeho kybernetického prostredia vrátane rizík súvisiacich s AI.

Európska komisia: AI Act a Guidelines on transparency obligations for providers and deployers of AI systems, júl 2026.