Presná definícia
Čo znamená jailbreakový útok?
Jailbreakový útok sa pokúša obísť bezpečnostné alebo obsahové obmedzenia modelu tak, aby vytvoril výstup, ktorý má podľa politiky odmietnuť alebo bezpečne presmerovať. Využíva formuláciu, kontext, kódovanie alebo viacstupňovú interakciu.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Bezpečnostný tím používa autorizovaný súbor reprezentatívnych obchádzaní, meria mieru porušenia aj neprimeraných odmietnutí a po oprave testuje nové parafrázy. Detaily testov chráni podľa rizika.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená jailbreakový útok?
Jailbreakový útok sa pokúša obísť bezpečnostné alebo obsahové obmedzenia modelu tak, aby vytvoril výstup, ktorý má podľa politiky odmietnuť alebo bezpečne presmerovať.
Kedy sa jailbreakový útok používa?
Bezpečnostný tím používa autorizovaný súbor reprezentatívnych obchádzaní, meria mieru porušenia aj neprimeraných odmietnutí a po oprave testuje nové parafrázy.
Od čoho treba jailbreakový útok odlíšiť?
Prompt injection môže cieliť aplikáciu a nástroje; jailbreak sa zameriava najmä na obídenie pravidiel správania modelu.
Ako sa jailbreakový útok kontroluje?
Kontroluje sa jasná politika, úspech podľa kategórií, adaptívne varianty, viac jazykov, konzistentnosť a false positives.
Aké obmedzenie má jailbreakový útok?
Oprava známej formulácie môže iba zablokovať testovací reťazec, kým významovo rovnaké obídenie zostane funkčné.