Slovník výrazov AI/Bezpečnosť a súkromie

Bezpečnosť a súkromie

certifikovaná odolnosť

Anglický výraz certified robustness

pokročiléheslo č. 11275 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená certifikovaná odolnosť?

Certifikovaná odolnosť je matematicky dokázaná záruka, že predikcia sa nezmení pre všetky vstupy v presne určenej množine perturbácií okolo konkrétneho príkladu. Certifikát platí iba pre daný model, normu, polomer a predpoklady metódy.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Pri klasifikátore tím uvedie certifikovanú presnosť pri viacerých polomeroch a porovná ju s čistou presnosťou. Záruku neprezentuje ako ochranu proti manipuláciám mimo použitej normy.

Overiteľnosť

Odborné zdroje

  1. Cohen, Rosenfeld & Kolter - Certified Adversarial Robustness via Randomized Smoothingarxiv.org
  2. NIST - Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigationsdoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená certifikovaná odolnosť?

Certifikovaná odolnosť je matematicky dokázaná záruka, že predikcia sa nezmení pre všetky vstupy v presne určenej množine perturbácií okolo konkrétneho príkladu.

Kedy sa certifikovaná odolnosť používa?

Pri klasifikátore tím uvedie certifikovanú presnosť pri viacerých polomeroch a porovná ju s čistou presnosťou.

Od čoho treba certifikovaná odolnosť odlíšiť?

Empirická robustnosť odolala známym testom; certified robustness dokazuje vlastnosť pre matematicky vymedzenú oblasť.

Ako sa certifikovaná odolnosť kontroluje?

Overí sa dôkazová metóda, numerická presnosť, certifikovaný polomer, abstencie, reprodukcia a zhoda implementácie s analyzovaným modelom.

Aké obmedzenie má certifikovaná odolnosť?

Formálny certifikát môže pokrývať príliš malú alebo nereálnu množinu zmien a neochráni zvyšok aplikačného systému.