Presná definícia
Čo znamená karta systému?
Karta systému dokumentuje správanie, riziká, hodnotenie a ochranné opatrenia celého AI systému vrátane modelov, promptov, nástrojov, filtrov, používateľského rozhrania a prevádzkových pravidiel. Rozsah musí zodpovedať nasadenej verzii.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pred spustením asistenta organizácia uvedie architektúru, oprávnenia, bezpečnostné testy, typy odmietnutí, monitoring a známe medzery. Každú zmenu nástroja alebo politiky viaže na novú verziu karty.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Čo presne znamená karta systému?
Karta systému dokumentuje správanie, riziká, hodnotenie a ochranné opatrenia celého AI systému vrátane modelov, promptov, nástrojov, filtrov, používateľského rozhrania a prevádzkových pravidiel.
Kedy sa karta systému používa?
Pred spustením asistenta organizácia uvedie architektúru, oprávnenia, bezpečnostné testy, typy odmietnutí, monitoring a známe medzery.
Od čoho treba karta systému odlíšiť?
Model card opisuje konkrétny model; system card zachytáva jeho integráciu a emergentné správanie celého produktu.
Ako sa karta systému kontroluje?
Overí sa hranica systému, verzia všetkých komponentov, dôkazy k tvrdeniam, red-team pokrytie, zostatkové riziká a zmenový log.
Aké obmedzenie má karta systému?
Široká karta môže skryť slabý dôkaz v súhrnoch a verejná verzia môže vynechať detail potrebný pre nezávislý audit.