Presná definícia
Čo znamená univerzálna adversariálna perturbácia?
Univerzálna adversariálna perturbácia je jedna vstupovo nezávislá zmena, ktorá po pridaní k mnohým rôznym príkladom spôsobí chybu modelu. Ukazuje spoločné citlivé smery rozhodovacej funkcie, nie iba slabinu jedného obrázka.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Výskumníci vytvoria perturbáciu na oddelenej množine a merajú jej úspech na nových vstupoch, modeloch a rozpočtoch zmeny. Výsledok používajú na hodnotenie odolnosti a detekcie.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená univerzálna adversariálna perturbácia?
Univerzálna adversariálna perturbácia je jedna vstupovo nezávislá zmena, ktorá po pridaní k mnohým rôznym príkladom spôsobí chybu modelu.
Kedy sa univerzálna adversariálna perturbácia používa?
Výskumníci vytvoria perturbáciu na oddelenej množine a merajú jej úspech na nových vstupoch, modeloch a rozpočtoch zmeny.
Od čoho treba univerzálna adversariálna perturbácia odlíšiť?
Bežný adversariálny príklad má úpravu prispôsobenú konkrétnemu vstupu; universal perturbation sa opakovane používa naprieč vstupmi.
Ako sa univerzálna adversariálna perturbácia kontroluje?
Kontroluje sa norma alebo sémantické obmedzenie, test mimo tvorby, fooling rate, transfer, viditeľnosť a adaptácia na obranu.
Aké obmedzenie má univerzálna adversariálna perturbácia?
Vysoká úspešnosť pri matematickom rozpočte nemusí znamenať realizovateľné riziko a môže závisieť od jednej preprocessingovej chyby.