Presná definícia
Čo znamená únikový útok?
Únikový útok mení vstup počas inferencie tak, aby sa vyhol správnej detekcii alebo dosiahol cieľovú predikciu bez zmeny natrénovaného modelu. Protivník využíva rozhodovaciu hranicu a pozorované odpovede systému.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Filter spamu sa hodnotí na bezpečne vytvorených obmenách správ, ktoré zachovávajú škodlivý zámer. Tím sleduje záchyt, falošné pozitíva, mieru odmietnutia a nové vzory po nasadení.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená únikový útok?
Únikový útok mení vstup počas inferencie tak, aby sa vyhol správnej detekcii alebo dosiahol cieľovú predikciu bez zmeny natrénovaného modelu.
Kedy sa únikový útok používa?
Filter spamu sa hodnotí na bezpečne vytvorených obmenách správ, ktoré zachovávajú škodlivý zámer.
Od čoho treba únikový útok odlíšiť?
Poisoning ovplyvňuje tréning alebo aktualizáciu; evasion pôsobí na vstupy hotového modelu pri použití.
Ako sa únikový útok kontroluje?
Kontroluje sa model hrozieb, povolené transformácie, adaptácia na obranu, query limity, transfer medzi modelmi a prevádzková realizovateľnosť.
Aké obmedzenie má únikový útok?
Statický test rýchlo zastará a agresívna detekcia manipulácie môže poškodiť legitímne neštandardné vstupy.