Slovník výrazov AI/Vysvetliteľnosť a interpretácia

Vysvetliteľnosť a interpretácia

karta modelu

Anglický výraz model card

špecializovanéheslo č. 11955 otázok a odpovedí2 odborné zdroje

Presná definícia

Čo znamená karta modelu?

Karta modelu je štruktúrovaná dokumentácia jedného modelu, ktorá uvádza jeho verziu, účel, používateľov, tréningové a hodnotiace podmienky, segmentové metriky, etické aspekty a známe obmedzenia. Má podporovať zodpovedný výber a nasadenie.

Skúsenosť a kontext

Ako sa pojem používa v praxi

Dodávateľ pri každej verzii aktualizuje kartu, prepája tvrdenia s testami a uvádza nepodporované jazyky a populácie. Prevádzkovateľ k nej pridá vlastné hodnotenie konkrétneho použitia.

Overiteľnosť

Odborné zdroje

  1. Mitchell et al. - Model Cards for Model Reportingarxiv.org
  2. NIST - AI Risk Management Framework 1.0doi.org

Praktické odpovede

Často kladené otázky

Čo presne znamená karta modelu?

Karta modelu je štruktúrovaná dokumentácia jedného modelu, ktorá uvádza jeho verziu, účel, používateľov, tréningové a hodnotiace podmienky, segmentové metriky, etické aspekty a známe obmedzenia.

Kedy sa karta modelu používa?

Dodávateľ pri každej verzii aktualizuje kartu, prepája tvrdenia s testami a uvádza nepodporované jazyky a populácie.

Od čoho treba karta modelu odlíšiť?

Datasheet dokumentuje dataset; model card dokumentuje učený model a výsledky jeho hodnotenia.

Ako sa karta modelu kontroluje?

Kontroluje sa presná verzia, pôvod metrík, pokrytie segmentov, dátum, obmedzenia, zmeny, vlastníci a väzba na artefakt.

Aké obmedzenie má karta modelu?

Karta môže rýchlo zastarať alebo selektívne uviesť len priaznivé testy a sama nenahrádza systémové ani terénne hodnotenie.