Presná definícia
Čo znamená Digitálny vodoznak AI?
Digitálny vodoznak AI je technológia vkladania skrytých, štatisticky detegovateľných signálov alebo vzorov priamo do synteticky vygenerovaného obsahu (text, obraz, zvuk, video) počas jeho generovania. Vodoznak je pre ľudské zmysly takmer nepostrehnuteľný, no špecializovaný softvér ho dokáže spoľahlivo identifikovať.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Používa sa na overovanie pôvodu digitálnych médií (provenance), boj proti dezinformáciám a deepfakom, ochranu autorských práv a spĺňanie legislatívnych požiadaviek na jednoznačné označovanie syntetického obsahu.
Overiteľnosť
Odborné zdroje
- Kirchenbauer, J., et al. (University of Maryland, 2023). A Watermark for Large Language Models. ICML 2023 / arXiv:2301.10226.arxiv.org
C2PA (2023). Coalition for Content Provenance and Authenticity Technical Specifications v1.3.
Praktické odpovede
Často kladené otázky
Ako funguje vodoznakovanie pri generovanom texte z jazykových modelov (LLM)?
Model pri generovaní matematicky uprednostňuje určité skupiny slov (tzv. greenlist tokens). Výsledný text si zachováva prirodzenosť, no štatistická analýza výskytu týchto slov potvrdí AI pôvod.
Dá sa digitálny vodoznak AI jednoducho odstrániť orezaním alebo kompresiou?
Moderné vodoznaky sú navrhnuté ako robustné - odolajú kompresii (JPEG/MP3), zmene rozlíšenia, miernemu šumu aj farebným úpravám.
Čo je to štandard C2PA a ako súvisí s vodoznakovaním?
C2PA (Coalition for Content Provenance and Authenticity) je otvorený štandard, ktorý pripája kryptograficky podpísané metadáta o pôvode priamo do súboru média.
Je označovanie AI obsahu vodoznakom povinné?
Podľa Aktu EÚ o umelej inteligencii a nariadení v mnohých krajinách majú poskytovatelia AI povinnosť označovať syntetický generovaný audio a vizuálny obsah.
Existuje univerzálny detektor na overenie akéhokoľvek AI vodoznaku?
Nie. Každý vývojár alebo štandard používa vlastný kľúč a matematickú metódu, preto je na detekciu potrebný príslušný verifikačný kľúč alebo algoritmus.