Dôležité fakty overujte v primárnych a aktuálnych zdrojoch.
Plynulá odpoveď môže obsahovať nesprávne číslo, vymyslenú citáciu alebo záver, ktorý zdroj neuvádza. Naučíte sa rozlišovať fakt, interpretáciu a modelový príklad. Praktický postup overovania vás prevedie od tvrdenia k pôvodnému dokumentu a pomôže rozhodnúť, kedy výstup radšej nepoužiť.
Po prečítaní budete vedieť
- vysvetliť tému na konkrétnom príklade
- porozumieť postupu a jeho praktickým dôsledkom
- rozpoznať hranice použitia a potrebnú kontrolu
Zhrnutie
Plynulá odpoveď môže obsahovať nesprávne číslo, vymyslenú citáciu alebo záver, ktorý zdroj neuvádza. Naučíte sa rozlišovať fakt, interpretáciu a modelový príklad. Praktický postup overovania vás prevedie od tvrdenia k pôvodnému dokumentu a pomôže rozhodnúť, kedy výstup radšej nepoužiť.
Citácia, ktorá vyzerá dôveryhodne
Nástroj pripraví text o pracovnom práve. Uvedie názov rozhodnutia, súd, rok aj odkaz. Formálne je všetko na mieste. Pri otvorení odkazu sa však ukáže, že rozhodnutie neexistuje alebo rieši inú otázku.
Nejde len o hypotetické riziko. V americkom prípade Mata v. Avianca súd v roku 2023 riešil podanie obsahujúce neexistujúce rozhodnutia vytvorené pomocou ChatGPT a uložil sankcie. Tento prípad nie je výkladom slovenského práva; ukazuje dôsledok prevzatia neoverených autorít do odbornej práce. Pôvodné rozhodnutie súdu z 22. júna 2023.
Čo označujeme slovom halucinácia
Pri generatívnej AI tým bežne myslíme výstup, ktorý pôsobí ako pravdivý, ale nie je podložený alebo je nesprávny. Nemusí ísť o úplne vymyslený príbeh. Stačí nesprávny dátum, zamenené meno, neexistujúci paragraf či nepravdivé vysvetlenie skutočnej tabuľky.
NIST vo svojom profile generatívnej AI používa termín confabulation a upozorňuje aj na chybné odôvodnenia a citácie. Presvedčivý štýl môže viesť človeka k tomu, že nesprávnu informáciu použije. NIST AI 600-1.
Výstup nemusí byť nepravdivý úmyselne. Halucináciu preto nemožno automaticky označiť za dezinformáciu. Pri dezinformácii je podstatný aj zámer klamať; ten z textu samotného často nevieme spoľahlivo určiť. Nesprávna informácia môže škodiť aj bez takého zámeru.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Istota štýlu ≠ istota faktov“.
Sebavedomie nie je meranie správnosti
Ak požiadate AI, aby ku každej odpovedi uviedla percento istoty, nedostávate automaticky štatisticky overenú pravdepodobnosť. Model môže vytvoriť číslo, ktoré vyzerá presne, bez kalibrácie na danú úlohu.
Podobne nepomáha iba otázka „si si istý?“. Nástroj môže odpoveď zopakovať alebo ju zmeniť bez spoľahlivého dôvodu. Užitočnejšie je požadovať konkrétny podklad a ten nezávisle preveriť.
💡 Jednoducho: veta „som si istý“ je ďalšia veta modelu. Dôkazom je dohľadateľný podklad, ktorý skutočne podporuje dané tvrdenie.
Overenie po jednotlivých tvrdeniach
Pri pracovnej rešerši rozdeľte výstup na overiteľné tvrdenia. „Firma zvýšila tržby o 20 %“ je faktické tvrdenie. „Pravdepodobne jej pomohla automatizácia“ je interpretácia. „Predstavme si firmu s desiatimi pracovníkmi“ je modelový príklad.
Tieto vrstvy majú byť označené aj v hotovom texte. Inak čitateľ môže zameniť názorný príklad za doložený prípad alebo odhad za nameraný výsledok.
| Tvrdenie | Čo overiť |
|---|---|
| Číslo alebo percento | Pôvodný súbor, obdobie, menovateľ a jednotku |
| Právna povinnosť | Platné znenie, pôsobnosť, výnimky a účinnosť |
| Výsledok štúdie | Skúmanú vzorku, metódu a obmedzenia |
| Vyjadrenie osoby | Pôvodný záznam a kontext |
Pri dôležitých údajoch najprv otvorte zdroj. Skontrolujte autora, dátum a verziu dokumentu. Nájdite pasáž, ktorá tvrdenie podporuje. Ak citovaný článok iba odkazuje na inú štúdiu, prejdite podľa potreby k nej. Dva články preberajúce tú istú tlačovú správu nie sú dve nezávislé potvrdenia.
Vyhľadávanie chybu znižuje, nie ruší
AI pripojená k vyhľadávaniu môže nájsť aktuálne podklady. Stále však môže zle interpretovať text, zameniť organizácie alebo spojiť údaje z rôznych rokov. Pri práci s dokumentmi sa zase môže opierať o nesprávnu stranu či prehliadnuť poznámku pod tabuľkou.
V modelovom príklade firma porovnáva ponuky troch dodávateľov. Jedna cena je mesačná, druhá ročná a tretia bez dopravy. Ak systém vytvorí poradie len podľa zobrazených čísel, jeho tabuľka môže byť prehľadná a zároveň nesprávna. Kontrola musí preto preveriť aj význam údajov, nielen ich prepis.
Dôležité fakty overujte v primárnych a aktuálnych zdrojoch. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Keď sa pravda nedá potvrdiť
Nezamieňajte chýbajúci dôkaz s dôkazom nepravdivosti. Ak nenájdete pôvodný zdroj, označte tvrdenie ako neoverené alebo ho vynechajte. Pri zásadnej otázke požiadajte o odborné posúdenie.
V publikovanom článku je lepšie uviesť obmedzenie než dopĺňať medzeru presvedčivou domnienkou. Pri internom rozhodovaní si zaznamenajte, ktoré podklady chýbajú. Následný čitateľ musí vedieť, že záver nie je konečný.
Cvičenie a zhrnutie
Vezmite krátky výstup AI s tromi faktickými tvrdeniami. Ku každému zapíšte pôvodný zdroj, podpornú pasáž a prípadné obmedzenie. Ak zdroj nepotvrdzuje presne to, čo text tvrdí, upravte text, nie význam zdroja.
Používajte AI na prípravu otázok, orientáciu a spracovanie podkladov. Pri publikovaní a rozhodovaní sa však zodpovednosť za pravdivosť nedá nahradiť tým, že nástroj pridal odkaz. Overovať treba aj vzťah medzi zdrojom a záverom.
Zdroje a redakčná poznámka
- Mata v. Avianca: pôvodné rozhodnutie - doložený prípad.
- NIST AI 600-1: Generative Artificial Intelligence Profile - riziká generatívnej AI.
Príklad s dodávateľmi je modelový. Stav spracovania: 4. októbra 2026. Návrh na odborné overenie: Marek Rodák; osobné overenie zatiaľ nepotvrdené.
Pojem v slovníku
Praktické odpovede
Často kladené otázky
Je odpoveď s odkazmi automaticky spoľahlivá?
Nie. Odkaz môže byť neexistujúci, zastaraný alebo nemusí podporovať tvrdenie. Treba otvoriť konkrétny podklad.
Pomôže požiadať druhú AI o kontrolu?
Môže odhaliť nezrovnalosť, ale nie je náhradou za pôvodný zdroj. Oba systémy sa môžu opierať o rovnakú nesprávnu informáciu.
Máme kontrolovať každú vetu rovnako dôkladne?
Rozsah kontroly prispôsobte následkom chyby. Právne, zdravotné, finančné a publikované faktické tvrdenia potrebujú osobitnú pozornosť; aj pri bežnom texte však skontrolujte mená, čísla a záväzky.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.