Slovník výrazov AI/Bezpečnosť a súkromie

Bezpečnosť a súkromie

adversariálna záplata

Anglický výraz adversarial patch

pokročiléheslo č. 11245 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená adversariálna záplata?

Adversariálna záplata je lokalizovaný vizuálny vzor navrhnutý tak, aby pri umiestnení v scéne vyvolal chybu obrazového modelu. Na rozdiel od jemnej perturbácie môže byť viditeľná a optimalizovaná na zmeny uhla, vzdialenosti či osvetlenia.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Tím pri kamerovom systéme testuje tlačené vzory v bezpečnom laboratóriu na viacerých kamerách a polohách. Obranu kombinuje s detekciou neznámych vstupov a fyzickými bezpečnostnými vrstvami.

Overiteľnosť

Odborné zdroje

  1. NIST - Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigationsdoi.org
  2. Cohen, Rosenfeld & Kolter - Certified Adversarial Robustness via Randomized Smoothingarxiv.org

Praktické odpovede

Často kladené otázky

Čo presne znamená adversariálna záplata?

Adversariálna záplata je lokalizovaný vizuálny vzor navrhnutý tak, aby pri umiestnení v scéne vyvolal chybu obrazového modelu.

Kedy sa adversariálna záplata používa?

Tím pri kamerovom systéme testuje tlačené vzory v bezpečnom laboratóriu na viacerých kamerách a polohách.

Od čoho treba adversariálna záplata odlíšiť?

Univerzálna perturbácia môže pokrývať celý vstup; adversariálna patch je priestorovo obmedzený objekt alebo vzor.

Ako sa adversariálna záplata kontroluje?

Overí sa fyzická realizovateľnosť, transformácie, prenos medzi modelmi, miera úspechu, čistý výkon a adaptívny variant.

Aké obmedzenie má adversariálna záplata?

Laboratórna patch nemusí fungovať v teréne, no obrana na známe tvary môže zlyhať pri novej veľkosti alebo materiáli.