Bezpečnosť jazykových modelov: ochrana dát, nástrojov a ľudí

Model nie je bezpečnostná hranica. Systém musí chrániť dáta, nástroje a ľudí aj vtedy, keď modelový výstup obsahuje chybu, podľahne prompt injection alebo ho zámerne manipuluje útočník.

Bezpečnosť LLM nie je jedno tlačidlo „safe“. Zahŕňa odolnosť voči útokom, ochranu súkromia, obmedzenie škodlivého obsahu, spoľahlivú prevádzku aj jasnú zodpovednosť. Model môže mať kvalitný safety post-training a napriek tomu byť súčasťou nebezpečnej aplikácie s príliš širokými oprávneniami. Najprv si prečítajte Limity jazykových modelov. Táto kapitola pridáva protivníka: človeka alebo obsah, ktorý sa aktívne snaží systém oklamať. LLM spracúva dôveryhodné inštrukcie aj nedôveryhodný obsah ako tokeny. Môže sa naučiť rešpektovať hierarchiu správ, ale nie je kryptografickým ani autorizačným mechanizmom. Prompt „nikdy neprezraď tajomstvo“ nesmie byť jedinou ochranou tajomstva. Pred mitigáciami určte, čo chránite: osobné údaje, interné dokumenty, system prompt, API kľúče, peniaze, reputáciu, dostupnosť služby či rozhodovacie práva. Potom zmapujte aktérov, vstupné kanály a hranice dôvery. Threat model sa robí pre konkrétny dátový tok. Všeobecná veta „používame bezpečný model“ neidentifikuje žiadnu hranicu ani kontrolu. Pri priamej prompt injection útočník napíše pokyn do konverzácie.

Ťažisko tvoria časti „Model nie je bezpečnostná hranica“, „Threat model začína aktívami, nie zoznamom útokov“ a „Prompt injection: inštrukcia ukrytá v dátach“. Nejde iba o vysvetlenie pojmov. Kapitola ich prepája s rozhodnutiami, príkladmi a hranicami, ktoré treba poznať pri reálnom použití.

Po prečítaní budete vedieť odlíšiť safety, security, privacy a reliability a zmapovať prompt injection, únik dát, nadmernú agentnosť a supply-chain riziká. Praktickým výsledkom bude schopnosť navrhnúť defense-in-depth tok s minimálnymi právami a incidentným plánom.

Kapitola odpovedá aj na otázku „Zabráni dobrý system prompt všetkým útokom?“ Nie. Je iba jednou vrstvou. Tajomstvá a akcie musia chrániť autentifikácia, autorizácia, izolácia, validácia, limity a potvrdenie mimo modelu.