10 najväčších problémov umelej inteligencie z pohľadu praxe

Autor: Marek Rodák Oblasť: AI Governance Aktualizované: september 2026

O umelej inteligencii sa dnes často hovorí v dvoch extrémoch. Na jednej strane ako o technológii, ktorá vyrieši takmer všetko. Na druhej ako o hrozbe, ktorá pripraví ľudí o prácu, zaplaví internet podvodmi a postupne sa vymkne spod kontroly.

Prax je oveľa menej dramatická – a zároveň zaujímavejšia.

AI už dnes prináša firmám, školám, verejným inštitúciám aj jednotlivcom reálnu hodnotu. Skracuje čas potrebný na spracovanie dokumentov, pomáha analyzovať veľké množstvo informácií, automatizuje rutinnú prácu a dokáže výrazne urýchliť tvorbu obsahu či programovanie. Súčasne však vytvára problémy, ktoré pred niekoľkými rokmi buď neexistovali, alebo mali podstatne menší rozsah.

Najväčšou chybou by bolo pozerať sa na tieto problémy ako na dôkaz, že AI je nebezpečná technológia, ktorú treba obmedzovať za každú cenu. Rovnako chybný je opačný prístup – nasadzovať ju všade len preto, že je dostupná.

Rozumnejšie je položiť si inú otázku: Kde môže AI zlyhať a čo s tým dokážeme urobiť?

Nasledujúcich desať oblastí patrí medzi problémy, s ktorými sa dnes stretávajú používatelia, firmy aj regulátori najčastejšie.

1. Zaujatosť: AI nie je automaticky objektívna

Keď počítač vyhodnotí stovky životopisov alebo algoritmus zoradí klientov podľa rizika, výsledok môže na prvý pohľad pôsobiť objektívnejšie než rozhodnutie človeka.

To je však iba zdanie.

Model pracuje s dátami, ktoré vytvorili alebo zozbierali ľudia. Ak sa v nich nachádzajú historické nerovnosti, stereotypy alebo jednoducho nedostatočné zastúpenie určitej skupiny, systém sa z nich môže naučiť nesprávny vzorec.

V praxi sa preto otázka zaujatosti netýka abstraktnej etiky, ale veľmi konkrétnych situácií. Výberu zamestnancov. Hodnotenia klienta. Zdravotníckej diagnostiky. Poisťovníctva. Vzdelávania.

Stanford AI Index upozorňuje, že ani nové modely nie sú voči tomuto problému imúnne. Vývojári dokážu obmedzovať explicitné prejavy zaujatosti, no implicitné stereotypy môžu v modeloch pretrvávať.

To neznamená, že algoritmus musí byť vždy horší než človek. Človek je zaujatý tiež. Rozdiel spočíva v rozsahu. Chybné ľudské rozhodnutie môže ovplyvniť jedného človeka. Chybne nastavený algoritmus môže rovnakú chybu zopakovať desaťtisíckrát.

Preto je pri AI dôležitá kontrola dát, testovanie výstupov na rôznych skupinách používateľov a ľudský dohľad všade tam, kde má rozhodnutie vážny dopad na konkrétneho človeka.

2. Kybernetické útoky sú vďaka AI lacnejšie a presvedčivejšie

Phishing kedysi často prezradila zlá gramatika, zvláštna formulácia alebo nepresvedčivý preklad.

Generatívna AI tento problém útočníkom výrazne zjednodušila.

Dnes nie je problém vytvoriť profesionálne pôsobiaci e-mail v slovenčine, prispôsobiť ho konkrétnej osobe alebo napodobniť spôsob, akým komunikuje manažér firmy. Syntetický hlas navyše umožňuje vytvárať podvodné telefonáty a generovanie obrazu či videa posúva sociálne inžinierstvo na ďalšiu úroveň.

Tým sa mení ekonomika kybernetických útokov. To, čo si kedysi vyžadovalo čas, technické schopnosti a prípravu, je možné škálovať oveľa rýchlejšie.

Problém však nie je iba v tom, že útočníci používajú AI. Riziková môže byť aj samotná implementácia AI vo firme. Model môže mať prístup k interným dokumentom, CRM, e-mailom alebo firemným databázam. Ak nie sú presne nastavené oprávnenia, jedna chyba už neznamená nesprávnu odpoveď chatbota, ale potenciálne otvorenie prístupu k citlivým údajom.

NIST preto odporúča pozerať sa na bezpečnosť AI počas celého jej životného cyklu. Nestačí kúpiť „bezpečný nástroj“. Bezpečne musí byť navrhnuté aj jeho nasadenie.

3. Najľahšie uniknú dáta, ktoré do AI vložíme sami

Ochrana osobných a dôverných údajov patrí k problémom, ktoré sa dajú vysvetliť veľmi jednoducho.

Predstavme si zamestnanca, ktorý potrebuje skrátiť zmluvu na jednu stranu. Otvorí verejne dostupný AI chatbot, vloží doň celý dokument a požiada o zhrnutie.

Z pohľadu používateľa ide o bežnú pracovnú operáciu. Z pohľadu organizácie môže ísť o odovzdanie dôverných informácií externému systému.

Rovnaký problém vzniká pri životopisoch, zdravotných údajoch, obchodných zmluvách, dátach o zákazníkoch, interných finančných výsledkoch či informáciách o žiakoch.

Európsky výbor pre ochranu údajov upozorňuje, že pri AI modeloch treba riešiť právny základ spracúvania osobných údajov, anonymitu aj to, čo sa stane, ak boli údaje použité spôsobom, ktorý nebol v súlade s pravidlami ochrany súkromia.

Firmy preto potrebujú pomerne jednoduchú vec: jasne určiť, ktoré nástroje sa smú používať a čo do nich zamestnanci smú zadávať.

Bez takýchto pravidiel vzniká paradox. Firma môže investovať tisíce eur do kybernetickej bezpečnosti a potom zamestnanec skopíruje citlivý dokument do verejného chatbota, pretože mu nikto nepovedal, že to nemá robiť.

4. AI nie je nehmotná. Potrebuje elektrinu, čipy aj vodu

Pri používaní ChatGPT alebo iného nástroja nevidíme serverovňu. Vidíme len jednoduché okno a odpoveď, ktorá vznikne za niekoľko sekúnd.

Za týmto používateľským komfortom je však rozsiahla fyzická infraštruktúra.

Moderné modely potrebujú výkonné akcelerátory, dátové centrá, elektrinu a chladenie. Medzinárodná energetická agentúra uvádza, že dátové centrá spotrebovali v roku 2024 približne 460 TWh elektriny. Pri základnom scenári môže ich spotreba do roku 2030 prekročiť 1 000 TWh.

Nie všetka táto spotreba súvisí s AI. Dátové centrá zabezpečujú celý rad internetových a cloudových služieb. Nástup generatívnej AI je však jedným z faktorov rastu.

Diskusia o environmentálnom dopade by preto nemala skĺznuť ani k tvrdeniu, že každý prompt predstavuje ekologický problém, ani k názoru, že digitálna technológia žiadne fyzické náklady nemá.

Pre firmy bude postupne dôležitejšie riešiť efektívnosť: na jednoduchú úlohu nepotrebujeme vždy najväčší dostupný model. Rozdiel môže vytvoriť aj výber infraštruktúry, optimalizácia počtu požiadaviek alebo používanie menších špecializovaných modelov.

5. Pri najvyspelejšej AI nepoznáme všetky budúce riziká

Toto je oblasť, kde sa odborná diskusia pomerne výrazne rozchádza.

Časť výskumníkov upozorňuje, že veľmi schopné budúce systémy by mohli predstavovať riziko, ak by ľudia nedokázali spoľahlivo kontrolovať ich ciele a správanie. Iní odborníci namietajú, že priveľká pozornosť venovaná hypotetickým scenárom odvádza pozornosť od diskriminácie, dezinformácií, monopolizácie trhu alebo pracovných zmien, ktoré riešime už dnes.

Obe diskusie majú svoje miesto.

Nie je správne hovoriť o dnešných chatbotových systémoch tak, akoby išlo o autonómne superinteligencie. Rovnako by však nebolo rozumné ignorovať otázku, čo sa stane, ak budú ďalšie generácie systémov samostatnejšie, výkonnejšie a budú môcť vykonávať čoraz väčší počet úloh bez bezprostredného zásahu človeka.

Pre bežnú slovenskú firmu nie je existenčné riziko najpálčivejším problémom AI governance. Pre laboratóriá vyvíjajúce frontier modely a pre štátnu reguláciu však ide o legitímnu bezpečnostnú otázku.

6. Autorské právo sa stretlo s technológiou, na ktorú nebolo pripravené

Generatívna AI dokáže za niekoľko sekúnd vytvoriť ilustráciu, článok, hudobný podklad, programový kód či návrh reklamy.

Praktická otázka znie: čo z toho môže firma bez problémov používať?

Odpoveď nie je vždy jednoduchá.

Jedna skupina problémov sa týka dát, na ktorých sa modely učili. Druhá toho, čo používateľ do systému vkladá. Tretia samotného výstupu.

Ak napríklad zamestnanec vloží do AI interný zdrojový kód alebo nezverejnený kreatívny návrh, organizácia musí vedieť, aký režim spracovania dát daný nástroj používa. Pri generovanom obsahu zase treba zvažovať, či výsledok nezasahuje do práv tretej strany.

Právny rámec sa pritom stále vyvíja. U.S. Copyright Office napríklad samostatne analyzuje digitálne repliky, autorskoprávnu ochranu výstupov vytvorených pomocou AI aj používanie chránených diel pri tréningu generatívnych modelov.

Pre prax z toho vyplýva jedno: autorské právo nemožno z AI governance vynechať.

Nestačí zamestnancom povedať, že AI môžu používať. Potrebujú vedieť aj to, aký obsah do nej nemajú vkladať a ktoré výstupy si vyžadujú kontrolu pred komerčným použitím.

7. AI pravdepodobne zmení viac pracovných miest, než úplne zruší

Predpovede o masovom zániku profesií sa objavujú pri každej väčšej technologickej zmene. Generatívna AI priniesla novú vlnu podobných scenárov.

Aktuálne výskumy sú opatrnejšie.

Medzinárodná organizácia práce vo svojej analýze z roku 2025 uviedla, že približne jeden zo štyroch pracovníkov na svete pracuje v povolaní, ktoré je určitým spôsobom vystavené generatívnej AI. Len menšia časť pracovných miest však patrí do kategórie s najvyššou mierou expozície.

Dôležité je slovo expozícia. Neznamená automaticky zánik pracovného miesta.

V mnohých profesiách sa skôr zmení spôsob práce. Účtovník bude inak spracúvať dokumenty. Marketér bude rýchlejšie pripravovať prvé návrhy. Programátor môže časť kódu generovať. Učiteľ môže AI využívať pri príprave materiálov.

Časť úloh zmizne, iné vzniknú a množstvo existujúcich sa zmení.

Pre manažéra je preto užitočnejšia otázka „ktoré úlohy vieme zmeniť?“ než „ktorých ľudí dokážeme nahradiť?“.

Firma, ktorá nasadí AI iba ako nástroj na redukciu počtu zamestnancov, môže prísť o oveľa väčšiu príležitosť: zmeniť proces tak, aby rovnakí ľudia dokázali vytvárať vyššiu hodnotu.

8. Keď sa AI pomýli, niekto musí niesť zodpovednosť

Predstavme si, že AI systém vytvorí nesprávnu analýzu. Zamestnanec jej dôveruje. Na základe výsledku firma prijme rozhodnutie a klientovi vznikne škoda.

Kto zlyhal?

Vývojár modelu? Dodávateľ aplikácie? Firma, ktorá systém zaviedla? Zamestnanec, ktorý výsledok neskontroloval?

Presne toto je jeden zo základných problémov AI governance.

V dobre nastavenom procese by nemala existovať odpoveď: „Rozhodla to umelá inteligencia.“

AI nie je organizačná funkcia a nemá vlastnú právnu zodpovednosť. Organizácia musí mať určeného vlastníka systému, pravidlá používania, schvaľovanie rizikových aplikácií, spôsob kontroly a postup pri incidente.

OECD preto v princípoch dôveryhodnej AI zdôrazňuje zodpovednosť a sledovateľnosť procesov.

Tlak na takéto riadenie rastie aj v Európe. AI Act používa rizikovo orientovaný model regulácie a jeho jednotlivé časti sa začali uplatňovať postupne. Od 2. augusta 2026 je účinná významná časť jeho pravidiel, pričom pre niektoré oblasti existujú osobitné alebo neskoršie termíny.

Pre organizácie to má praktický dôsledok. Otázka už nestojí iba tak, či AI používajú.

Potrebujú vedieť kde ju používajú.

9. Presvedčivá odpoveď ešte nie je vysvetlenie

Jedna z vlastností dnešných generatívnych systémov je mimoriadne zradná: dokážu pôsobiť presvedčivo.

Dlhá, odborne znejúca odpoveď v nás prirodzene vyvoláva pocit, že za ňou musí byť rovnako kvalitná analýza.

Nemusí.

Pri jednoduchých úlohách to často nepredstavuje veľký problém. Ak požiadame model o päť návrhov názvu konferencie, nepotrebujeme rekonštruovať jeho vnútorný rozhodovací proces.

Situácia je iná, ak algoritmus zasahuje do rozhodovania o človeku.

Prečo bol jeden klient označený ako rizikový a druhý nie? Prečo systém odporučil konkrétneho uchádzača? Na základe ktorých faktorov vznikla predikcia?

Čím závažnejší je dôsledok rozhodnutia, tým dôležitejšia je možnosť porozumieť výsledku, overiť ho a v prípade potreby ho napadnúť.

Transparentnosť preto neznamená, že každý používateľ musí rozumieť matematike neurónovej siete. Znamená, že organizácia dokáže primerane vysvetliť, čo systém robí, aké má obmedzenia a ako sa jeho výstup používa.

Práve týmto smerom idú aj princípy OECD a európsky AI Act.

10. AI dokáže sebavedomo povedať niečo, čo nie je pravda

Možno najpraktickejší problém zo všetkých.

Používateľ položí otázku a dostane perfektne formulovanú odpoveď. Sú v nej mená autorov, čísla, dátumy, možno aj názov vedeckej práce.

A časť z toho neexistuje.

Veľké jazykové modely nefungujú ako encyklopédia s uloženou databázou overených faktov. Generujú odpoveď na základe pravdepodobných vzťahov v dátach a kontexte. Preto dokážu vytvoriť aj fakticky nesprávnu informáciu, ktorá znie úplne dôveryhodne.

NIST používa pre tento jav termín confabulation; v bežnej reči sa zaužívalo označenie halucinácia.

V kancelárskej praxi môže ísť o zlé číslo. V akademickej práci o vymyslenú citáciu. V právnej oblasti o neexistujúce rozhodnutie súdu. Pri zdravotnej informácii môže byť dôsledok podstatne vážnejší.

K tomu sa pridáva zámerne vytváraný syntetický obsah: deepfake videá, falošné fotografie, klonovaný hlas a automatizované dezinformačné kampane.

Stanford AI Index 2026 uvádza, že databáza AI Incident Database evidovala za rok 2025 celkovo 362 zaznamenaných incidentov oproti 233 v predchádzajúcom roku. Samotný počet treba interpretovať opatrne – rast môže súvisieť aj s častejším používaním AI a lepším zaznamenávaním incidentov. Trend však ukazuje, že bezpečnostné problémy nie sú iba teoretickou debatou.

Pri práci s AI preto používam jednoduché pravidlo:

Čím dôležitejšie tvrdenie, tým menej stačí samotná odpoveď modelu.

Ak na informácii záleží, treba dohľadať pôvodný zdroj. Ak sa podľa nej bude prijímať významné rozhodnutie, treba ju overiť nezávisle.

Keď sa na všetkých desať oblastí pozrieme spolu, majú prekvapivo veľa spoločného.

Zaujatosť súvisí s dátami a kontrolou. Únik informácií s pravidlami používania. Kybernetické riziko s architektúrou a oprávneniami. Halucinácie s overovaním. Zodpovednosť s tým, kto systém vlastní a kto nad ním vykonáva dohľad.

Inými slovami, veľká časť problémov nevzniká preto, že organizácia používa AI.

Vzniká preto, že ju používa bez systému.

To je aj dôvod, prečo sa AI governance postupne presúva z technologickej témy do bežného riadenia organizácií.

Firma nemusí mať desiatky strán smerníc. Mala by však poznať odpovede aspoň na niekoľko základných otázok.

Aké AI nástroje používame? Kto ich schválil? Aké údaje do nich môžeme zadávať? Kde používame AI pri rozhodovaní o ľuďoch? Ktoré výstupy musí skontrolovať človek? Čo urobíme, ak systém zlyhá? A kto za celý proces nesie zodpovednosť?

Ak na tieto otázky organizácia nevie odpovedať, problémom nie je to, že by bola v používaní AI príliš ďaleko.

Skôr používa technológiu rýchlejšie, než si vytvára schopnosť ju riadiť.

A práve tu sa podľa mňa bude v najbližších rokoch rozhodovať o rozdiele medzi organizáciami, ktoré AI iba používajú, a tými, ktoré ju dokážu používať bezpečne, kontrolovane a s reálnym prínosom.

O autorovi

Marek Rodák sa venuje oblasti AI Governance, teda praktickému riadeniu používania umelej inteligencie v organizáciách so zameraním na riziká, pravidlá používania, zodpovednosť a bezpečné zavádzanie AI do procesov.

Aktualizované: september 2026

Metodika článku

Článok vychádza z porovnania odborných a inštitucionálnych zdrojov zameraných na riziká, bezpečnosť a riadenie umelej inteligencie. Jednotlivé problémy sú vysvetlené z pohľadu ich praktického dopadu na používateľov a organizácie.

Pri oblastiach, v ktorých neexistuje jednoznačný odborný konsenzus – najmä pri dlhodobých existenčných rizikách AI – sú odlíšené súčasné preukázateľné problémy od scenárov, ktoré sa týkajú možného budúceho vývoja.

Číselné údaje a regulačné informácie sú uvádzané s obdobím, ku ktorému boli dostupné. Text bol aktualizovaný v septembri 2026.

Hlavné zdroje

IBM Think: 10 AI dangers and risks and how to manage them – prehľad hlavných kategórií rizík umelej inteligencie.

NIST: Artificial Intelligence Risk Management Framework a Generative Artificial Intelligence Profile – rámec pre identifikáciu, posudzovanie a riadenie rizík AI.

https://www.nist.gov/itl/ai-risk-management-framework

Stanford University, Human-Centered Artificial Intelligence: AI Index Report 2025 a AI Index Report 2026 – údaje o vývoji AI, zodpovednosti, bezpečnosti a incidentoch.

https://hai.stanford.edu/ai-index

Európska komisia: AI Act – Regulatory Framework for Artificial Intelligence – aktuálny regulačný rámec umelej inteligencie v Európskej únii.

https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

OECD: OECD AI Principles – princípy dôveryhodnej umelej inteligencie vrátane transparentnosti, zodpovednosti a bezpečnosti.

https://oecd.ai/en/ai-principles

European Data Protection Board: stanoviská a usmernenia k používaniu osobných údajov pri vývoji a nasadzovaní modelov umelej inteligencie.

https://www.edpb.europa.eu/

International Labour Organization: Generative AI and Jobs: A Refined Global Index of Occupational Exposure – analýza vplyvu generatívnej AI na pracovné miesta a pracovné úlohy.

https://www.ilo.org/

International Energy Agency: Energy and AI – analýza energetickej náročnosti dátových centier a rozvoja AI.

https://www.iea.org/reports/energy-and-ai

U.S. Copyright Office: Copyright and Artificial Intelligence – analýzy autorského práva, generovaného obsahu, digitálnych replík a tréningových dát.

https://www.copyright.gov/ai/