Model spája informácie medzi modalitami, no každá má vlastné chyby.
Obraz a hlas už samy osebe nepotvrdzujú, kto niečo povedal alebo urobil. Pri podozrivom obsahu treba overovať pôvod, kontext a požadovanú akciu. Ukážeme si postup pri falošnej hlasovej žiadosti, hranice detektorov a rozdiel medzi označením syntetického obsahu a súhlasom dotknutej osoby.
Po prečítaní budete vedieť
- vysvetliť tému na konkrétnom príklade
- porozumieť postupu a jeho praktickým dôsledkom
- rozpoznať hranice použitia a potrebnú kontrolu
Zhrnutie
Obraz a hlas už samy osebe nepotvrdzujú, kto niečo povedal alebo urobil. Pri podozrivom obsahu treba overovať pôvod, kontext a požadovanú akciu. Ukážeme si postup pri falošnej hlasovej žiadosti, hranice detektorov a rozdiel medzi označením syntetického obsahu a súhlasom dotknutej osoby.
Známy hlas žiada nezvyčajnú platbu
Účtovníčke príde hlasová správa, ktorá znie ako riaditeľ. Žiada okamžitú platbu na nový účet a tvrdí, že práve nemôže telefonovať. Správa používa bežné oslovenie a zmieňuje skutočný projekt. Účtovníčka preto váha, či má platbu vykonať.
Tento príklad je modelový. Nevyžaduje však, aby pracovníčka spoľahlivo rozpoznala syntetický hlas. Bezpečný postup je overiť pokyn cez nezávislý kontakt a dodržať schvaľovanie platby. Ak použije číslo dodané v podozrivej správe, môže sa spojiť s tým istým útočníkom.
Čo je deepfake
Deepfake označuje umelo vytvorený alebo upravený obrazový, zvukový či videoobsah, ktorý môže pôsobiť ako autentický záznam existujúcich osôb alebo udalostí. Syntetický obsah nemusí byť vždy podvodný: môže slúžiť filmu, dabingu alebo vzdelávaniu. Riziko vzniká najmä pri klamlivom použití identity a kontextu.
Aj pravý záznam môže zavádzať. Staré video z inej krajiny možno vydávať za aktuálnu udalosť. Pri overovaní preto nestačí zisťovať, či bol súbor generovaný. Treba preveriť aj opis, dátum a tvrdenie, s ktorým sa šíri.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Jeden systém, viac druhov vstupu“.
Zamerať sa na konanie, nie iba na pixely
Pri podozrivej žiadosti sledujte zmenu účtu, požadované utajenie, časový tlak a obchádzanie bežného procesu. Tieto okolnosti sú praktickým dôvodom na overenie aj vtedy, keď nahrávka vyzerá bezchybne.
Pri verejnom videu hľadajte pôvodného vydavateľa, celý záznam a nezávislé potvrdenie udalosti. Krátky klip môže vynechať vetu, ktorá mení význam. Ak pôvod nepoznáte, neprezentujte obsah ako potvrdený fakt.
💡 Jednoducho: nemusíte dokázať, že hlas je falošný, aby ste odmietli vykonať neoverenú platbu. Stačí, že pokyn neprešiel bezpečným overením.
Čo dokážu značky pôvodu
Technológie ako C2PA umožňujú zaznamenať a overovať údaje o pôvode a úpravách digitálneho obsahu. Samotný údaj o pôvode však nepotvrdzuje pravdivosť zobrazenej udalosti. Chýbajúce údaje o pôvode zase samy osebe nedokazujú falšovanie. C2PA: Content Credentials Explainer.
Aj automatický detektor používajte ako pomocný signál, nie ako konečný rozsudok. Pred rozhodnutím potrebujete poznať jeho obmedzenia a podmienky testovania. Výsledok „pravdepodobne syntetické“ nesmie byť jediným dôvodom na verejné obvinenie konkrétneho človeka.
| Zistenie | Čo z neho nemožno automaticky vyvodiť |
|---|---|
| Súbor má overiteľné údaje o pôvode | Zobrazené tvrdenie je pravdivé |
| Súbor nemá tieto údaje | Súbor je deepfake |
| Detektor označil podozrivý obsah | Dotknutá osoba sa dopustila podvodu |
Označenie a súhlas sú rozdielne otázky
AI Act upravuje v článku 50 povinnosti transparentnosti vrátane zverejnenia umelého vytvorenia alebo manipulácie deepfake obsahu. Ustanovenie obsahuje podmienky a osobitné situácie; pri konkrétnom použití treba skontrolovať aktuálne znenie a jeho uplatnenie. AI Act, článok 50.
Označenie „vytvorené AI“ však samo osebe neudeľuje právo použiť cudziu podobizeň, hlas alebo chránený podklad. Pri firemnom avatarovi si preto samostatne vyriešte oprávnenia, účel, rozsah použitia a podmienky ukončenia spolupráce.
Model spája informácie medzi modalitami, no každá má vlastné chyby. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Keď sa obsah týka vás
Uložte nevyhnutné dôkazy: adresu príspevku, čas a relevantný záznam. Nešírte škodlivý obsah ďalej len preto, aby ste ukázali, že je falošný. Nahláste ho platforme a podľa povahy udalosti zapojte organizáciu, právnika alebo políciu.
Pri firemnom podvode okamžite informujte osobu oprávnenú zastaviť platbu alebo zablokovať prístup. Komunikácia má uviesť overené skutočnosti, nie predčasne prisudzovať útok konkrétnemu človeku.
Cvičenie a zhrnutie
Pripravte pre tím modelový pokyn na zmenu bankového účtu. Dohodnite, kto ho overí a cez aký nezávislý kontakt. Cieľom cvičenia nie je nachytať kolegov, ale zistiť, či bezpečný postup funguje aj pod časovým tlakom.
Zdroje a redakčná poznámka
Príklad hlasového pokynu je modelový. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Marek Rodák; osobné overenie zatiaľ nepotvrdené.
Pojem v slovníku
Praktické odpovede
Často kladené otázky
Stačí hľadať chyby v rukách alebo pohybe pier?
Nie. Viditeľné chyby môžu byť stopou, ale ich neprítomnosť nepotvrdzuje autenticitu.
Je syntetický obsah vždy neetický?
Nie. Záleží na oprávneniach, označení, účele a dôsledkoch. Dabing so súhlasom má iný charakter než falošná žiadosť o peniaze.
Môžem označený deepfake použiť bez ďalšieho posúdenia?
Nie. Označenie nenahrádza riešenie práv dotknutých ľudí ani ďalších povinností.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.