Slovník výrazov AI/Bezpečnosť a súkromie

Bezpečnosť a súkromie

strojové učenie chrániace súkromie

Anglický výraz privacy-preserving machine learning

špecializovanéheslo č. 11485 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená strojové učenie chrániace súkromie?

Strojové učenie chrániace súkromie je súbor metód, ktoré obmedzujú odhalenie osobných údajov pri tréningu, inferencii alebo zdieľaní modelu. Môže kombinovať minimalizáciu, diferenciálne súkromie, federované učenie, kryptografiu a kontrolu prístupu.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Konzorcium zvolí federované učenie na lokalitu dát, bezpečnú agregáciu proti serveru a diferenciálne súkromie proti úniku z výsledného modelu. Pre každú hrozbu uvedie samostatnú záruku a test.

Overiteľnosť

Odborné zdroje

  1. NIST - Privacy Frameworknist.gov
  2. Dwork - Differential Privacydoi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená strojové učenie chrániace súkromie?

Strojové učenie chrániace súkromie je súbor metód, ktoré obmedzujú odhalenie osobných údajov pri tréningu, inferencii alebo zdieľaní modelu.

Kedy sa strojové učenie chrániace súkromie používa?

Konzorcium zvolí federované učenie na lokalitu dát, bezpečnú agregáciu proti serveru a diferenciálne súkromie proti úniku z výsledného modelu.

Od čoho treba strojové učenie chrániace súkromie odlíšiť?

Jedna technika rieši konkrétny kanál úniku; PPML je architektúra viacerých kontrol odvodená z modelu hrozieb.

Ako sa strojové učenie chrániace súkromie kontroluje?

Kontroluje sa hrozba, chránené aktívum, formálna záruka, implementácia, kľúče, rozpočet, utility, metadáta a zostatkový únik.

Aké obmedzenie má strojové učenie chrániace súkromie?

Kombinácia populárnych techník nemusí pokryť všetky kanály a môže pridať zložitosť, ktorá vytvorí nové chyby.