Presná definícia
Čo znamená systémové riziko?
Systémové riziko je pri GPAI riziko špecifické pre vysoko účinné schopnosti, ktoré môže mať významný dosah na trh EÚ a v dôsledku rozsahu či šírenia negatívne ovplyvniť verejné zdravie, bezpečnosť, základné práva alebo spoločnosť ako celok.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Poskytovateľ modelu s možným systémovým rizikom vykoná modelové hodnotenia, adversariálne testy, sledovanie incidentov a primerané zmiernenia. Reťazcu používateľov odovzdá informácie potrebné na bezpečnú integráciu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená systémové riziko?
Systémové riziko je pri GPAI riziko špecifické pre vysoko účinné schopnosti, ktoré môže mať významný dosah na trh EÚ a v dôsledku rozsahu či šírenia negatívne ovplyvniť verejné zdravie, bezpečnosť, základné práva alebo spoločnosť ako celok.
Kedy sa systémové riziko používa?
Poskytovateľ modelu s možným systémovým rizikom vykoná modelové hodnotenia, adversariálne testy, sledovanie incidentov a primerané zmiernenia.
Od čoho treba systémové riziko odlíšiť?
Riziko jednotlivého nasadenia je lokálne viazané na použitie. Systémové riziko sa môže šíriť cez mnohé integrácie, sektory alebo veľký počet používateľov.
Ako sa systémové riziko kontroluje?
Overujú sa schopnosti a dosah modelu, počet a povaha integrácií, kanály šírenia, závažnosť, kumulatívne účinky, mitigácie a nové dôkazy po uvedení.
Aké obmedzenie má systémové riziko?
Historické incidenty nemusia zachytiť nové schopnosti ani rozsiahle sekundárne účinky; hodnotenie preto potrebuje scenáre a priebežnú aktualizáciu.