Limity jazykových modelov: kde sa končí plynulosť a začína neistota

Plynulosť zakrýva rozdiel medzi chýbajúcim dôkazom, krehkým uvažovaním, prehliadnutým kontextom a chybou celého systému. Každý limit preto potrebuje konkrétne meno, meranie a kontrolu.

Jazykový model môže v jednej minúte opraviť kód, zhrnúť zmluvu a vytvoriť presvedčivý odborný text. Táto šírka ľahko vyvolá dojem, že jeho zostávajúce chyby sú iba drobné nedostatky, ktoré odstráni ďalšia verzia. V skutočnosti pochádzajú z viacerých vrstiev: z tréningového cieľa, dát, rozhrania, nástrojov aj spôsobu nasadenia. Mechanizmus, z ktorého časť limitov vyrastá, vysvetľuje Ako modely generujú odpovede. Praktický rámec pre rozhodovanie uzatvorí kapitola Kedy AI dôverovať a kedy nie. Rovnaká chybná veta môže mať inú príčinu. Vymyslený zákon môže vzniknúť z chýbajúcej aktuálnej databázy, zle nájdeného dokumentu, nesprávnej interpretácie správnej pasáže alebo z promptu, ktorý model núti odpovedať aj bez dôkazu. Bez diagnózy sa ľahko nasadí nesprávna oprava. Halucinácia je fakticky alebo zdrojovo nepodložený výstup podaný ako odpoveď. Model môže vymyslieť citáciu, zmeniť číslo alebo doplniť chýbajúci detail. Samostatná kapitola Halucinácie AI vysvetľuje príčiny a mitigácie. Preto nehodnoťte iba „je veta pravdivá?“. Hodnoťte aj úplnosť, relevanciu, aktuálnosť, oprávnenie, kalibráciu neistoty a následok použitia.

Ťažisko tvoria časti „Päť druhov limitov, ktoré sa nesmú miešať“, „Halucinácia nie je jediný problém“ a „Model nepozná hranicu svojich vedomostí spoľahlivo“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť rozlíšiť epistemické, schopnostné, interakčné a systémové limity a navrhnúť eval s hraničnými, neodpovedateľnými a adversariálnymi prípadmi. Praktickým výsledkom bude schopnosť vytvoriť register limitov s vlastníkom a spúšťačom revízie.

Kapitola odpovedá aj na otázku „Sú halucinácie jediným významným limitom LLM?“ Nie. Model môže vynechať výnimku, zle použiť správny zdroj, zlyhať pri parafráze, prehliadnuť detail v dlhom kontexte alebo vykonať chybnú sériu krokov.