Presná definícia
Čo znamená systém AI?
Systém AI je nasadený strojový celok, ktorý pre explicitné alebo implicitné ciele zo vstupov inferuje, ako vytvoriť predikciu, obsah, odporúčanie či rozhodnutie schopné ovplyvniť fyzické alebo virtuálne prostredie. Zahŕňa modely, dáta, softvér, rozhrania a prevádzkové procesy; samotný model spravidla nie je systémom. Miera autonómie a adaptácie po nasadení sa môže líšiť.
Skúsenosť a kontext
Ako sa pojem používa v praxi
Pri zavádzaní sa neposudzuje len presnosť modelu, ale celý reťazec: pôvod vstupných dát, predspracovanie, model, prah rozhodnutia, používateľské rozhranie, ľudský zásah, logovanie a následné kroky. Napríklad úverový systém môže spájať skórovací model s pravidlami oprávnenosti a procesom odvolania. Inventár systému má uviesť účel, vlastníka, dotknuté osoby, verzie komponentov, prevádzkové limity a postup pri incidente. Zmena prahu, rozhrania alebo cieľovej skupiny môže zmeniť riziko aj bez pretrénovania modelu.
Overiteľnosť
Odborné zdroje
Praktické odpovede
Často kladené otázky
Aký je rozdiel medzi modelom AI a systémom AI?
Model vykonáva jadrovú transformáciu vstupu na výstup; systém pridáva dáta, rozhrania, pravidlá, infraštruktúru a ľudské procesy potrebné na konkrétne použitie.
Musí byť systém AI autonómny?
Nie úplne. Definície OECD a EÚ pripúšťajú rôzne úrovne autonómie; človek môže výstup schvaľovať, meniť alebo ignorovať.
Sú vstupom iba dáta?
Nie. Vstupom môže byť prompt, pravidlo, znalostná báza, obraz, meranie zo senzora alebo ľudský pokyn; rozhodujúce je, čo systém pri inferencii skutočne používa.
Mení sa každý systém po nasadení?
Nie. Adaptívny systém môže aktualizovať správanie, no mnohé produkčné systémy majú zmrazený model a menia sa až po riadenom vydaní novej verzie.
Kto zodpovedá za výsledok?
Zodpovednosť sa viaže na roly a kontext - poskytovateľa, nasadzujúci subjekt, integrátora a používateľa - nie na model ako morálneho aktéra. Konkrétne povinnosti určuje platné právo.