Presná definícia
Čo znamená AI s dvojakým použitím?
AI s dvojakým použitím je schopnosť, model, dataset alebo nástroj, ktorý možno použiť na prospešné aj škodlivé účely. Riziko nevychádza iba z deklarovaného zámeru tvorcu, ale z dostupnosti, škálovateľnosti, kombinovateľnosti a znalostí používateľa.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Tím pri modeli na analýzu kódu hodnotí prínos pre obranu aj možnosť automatizovať zneužitie zraniteľností. Obmedzí funkcie, zavedie stupňovaný prístup, monitoring a postup reakcie na nové zneužitie.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená AI s dvojakým použitím?
AI s dvojakým použitím je schopnosť, model, dataset alebo nástroj, ktorý možno použiť na prospešné aj škodlivé účely.
Kedy sa AI s dvojakým použitím používa?
Tím pri modeli na analýzu kódu hodnotí prínos pre obranu aj možnosť automatizovať zneužitie zraniteľností.
Od čoho treba AI s dvojakým použitím odlíšiť?
Nezamýšľané použitie môže byť neškodné; dual-use zdôrazňuje, že rovnaká schopnosť podporuje prospešný aj rizikový cieľ.
Ako sa AI s dvojakým použitím kontroluje?
Kontrolujú sa schopnosti, aktéri, bariéry, škálovanie, dostupné alternatívy, možnosti obmedzenia a zostatkové riziko.
Aké obmedzenie má AI s dvojakým použitím?
Príliš široké označenie môže blokovať prospešný výskum, kým úzky model hrozieb prehliadne kombináciu s inými nástrojmi.