Technicky možné ešte nemusí znamenať spoločensky prijateľné.
Etika AI nie je dodatok po dokončení technológie. Je to spôsob, ako ešte pred nasadením pomenovať ľudí, riziká, hranice a zodpovednosť za rozhodnutia systému.
Po prečítaní budete vedieť
- rozlíšiť etický princíp od všeobecného marketingového sľubu
- pomenovať riziká diskriminácie, súkromia a automatizovaného rozhodovania
- navrhnúť základné kontrolné body pre zodpovedné nasadenie AI
Aktualizované: august 2026
Umelá inteligencia už nie je iba predmetom výskumu ani nástrojom úzkej skupiny odborníkov. Systémy založené na AI odporúčajú obsah, vyhodnocujú žiadosti, pomáhajú pri diagnostike, optimalizujú výrobu, vytvárajú texty a obrazy či podporujú rozhodovanie vo verejnej správe. Ich prínos môže byť významný: dokážu zrýchliť vedecký výskum, sprístupniť vzdelávanie, zlepšiť služby a odbremeniť ľudí od rutinných úloh. Zároveň však môžu preberať a zosilňovať nerovnosti, zasahovať do súkromia, produkovať nepravdivé informácie alebo ovplyvňovať rozhodnutia, ktoré majú vážne následky pre jednotlivcov aj celé skupiny.
Práve týmto otázkam sa venuje etika umelej inteligencie. Skúma, aké ciele má AI sledovať, aké hranice by jej používanie nemalo prekročiť, ako spravodlivo rozdeliť jej prínosy a riziká a kto má niesť zodpovednosť za jej dôsledky. Nejde iba o abstraktnú filozofickú diskusiu. Etické rozhodnutia sú prítomné pri výbere problému, ktorý má systém riešiť, pri zbere dát, návrhu modelu, určovaní metrík úspechu, nasadení do praxe aj pri ukončení jeho prevádzky. UNESCO preto opisuje etiku AI ako tému celého životného cyklu a spája ju s ľudskými právami, dôstojnosťou, spravodlivosťou a environmentálnou udržateľnosťou.
Čo znamená etika AI
Etika je súbor princípov, hodnôt a postupov, pomocou ktorých posudzujeme, čo je správne, spravodlivé a spoločensky prijateľné. Etika AI tieto otázky uplatňuje na vývoj a používanie systémov umelej inteligencie. Zahŕňa samotný produkt, ale aj procesy a inštitúcie okolo neho: ľudí, ktorí systém navrhujú, organizácie, ktoré ho nasadzujú, dodávateľov dát a modelov, regulačné orgány i osoby a komunity, na ktoré systém pôsobí.
Pojmy „etická AI“, „zodpovedná AI“ a „dôveryhodná AI“ sa často používajú ako príbuzné, nie však vždy úplne zameniteľné. Etická AI zdôrazňuje hodnotové posúdenie cieľov a dôsledkov. Zodpovedná AI sa viac sústreďuje na konkrétne povinnosti, riadenie a preukázateľnú zodpovednosť. Dôveryhodná AI označuje vlastnosti, ktoré oprávňujú ľudí systému primerane dôverovať. Americký rámec NIST AI RMF medzi ne zaraďuje platnosť a spoľahlivosť, bezpečnosť, odolnosť, transparentnosť, vysvetliteľnosť, ochranu súkromia a férovosť s riadeným rizikom škodlivej zaujatosti.
Etiku nemožno stotožniť s právom. Právo stanovuje záväzné minimum a mechanizmy jeho vymáhania, kým etika sa pýta aj na konanie, ktoré môže byť legálne, no napriek tomu neprimerané alebo nespravodlivé. Rovnako nemožno etiku zúžiť na kybernetickú bezpečnosť či technickú presnosť. Systém môže fungovať presne podľa zadania, a predsa byť škodlivý, ak rieši nevhodný problém, sleduje nesprávny cieľ alebo sa používa v prostredí, pre ktoré nebol určený.
Prečo AI prináša osobitné etické otázky
Mnohé riziká AI nie sú úplne nové. Diskriminácia, sledovanie, manipulácia či nebezpečné výrobky existovali dávno pred algoritmami. AI však môže zmeniť ich rozsah, rýchlosť a viditeľnosť. Automatizované rozhodnutie možno aplikovať na milióny ľudí takmer okamžite. Chybný predpoklad zabudovaný do modelu sa preto môže reprodukovať systematicky, lacno a bez toho, aby bol na prvý pohľad zrejmý.
AI je navyše závislá od dát a od kontextu. Model sa učí zo záznamov minulosti, ktoré môžu byť neúplné, nepresné alebo poznačené historickou nerovnosťou. Jeho výkon v testovacom prostredí nezaručuje rovnaké výsledky v reálnom svete, kde sa menia ľudia, podmienky aj účel použitia. Najmä pri zložitých modeloch nemusí byť jednoduché vysvetliť, ktoré faktory viedli ku konkrétnemu výstupu. Generatívne systémy navyše vytvárajú nový obsah pravdepodobnostným spôsobom: odpoveď môže pôsobiť presvedčivo, hoci je vecne nesprávna.
Osobitným problémom je rozdelenie moci. Organizácia, ktorá systém vytvára alebo prevádzkuje, zvyčajne vie o jeho dátach a obmedzeniach viac než človek, ktorého systém hodnotí. Dotknutá osoba pritom môže znášať následky bez možnosti rozhodnutie pochopiť alebo napadnúť. AI preto nie je iba technológia. Je to sociotechnický systém, v ktorom sa technické vlastnosti spájajú s ekonomickými záujmami, pracovnými postupmi, pravidlami a ľudským správaním.
Základné hodnoty a princípy
Etické rámce sa líšia terminológiou, no ich jadro je podobné. Ethics Unwrapped približuje päť často citovaných princípov: prospešnosť, neškodenie, autonómiu, spravodlivosť a vysvetliteľnosť. Odporúčanie UNESCO, prijaté 193 členskými štátmi v roku 2021 ako prvý globálny štandard etiky AI, ich rozvíja do širšieho ľudskoprávneho rámca. V praxi sú kľúčové najmä nasledujúce zásady.
Ľudská dôstojnosť a autonómia. AI má slúžiť ľuďom, nie znižovať ich na dátové body alebo im bezdôvodne odoberať možnosť rozhodovať. Používateľ by mal vedieť, keď komunikuje so systémom AI, a pri závažných rozhodnutiach musí zostať zachovaný zmysluplný ľudský dohľad. To neznamená pridať človeka iba formálne. Musí mať dostatok informácií, času, právomocí a odbornej spôsobilosti, aby vedel výstup preveriť a v prípade potreby odmietnuť.
Prospešnosť, primeranosť a neškodenie. Nasadenie AI má mať legitímny a jasne pomenovaný účel. Očakávaný prínos má byť primeraný riziku a systém by nemal zasahovať do práv viac, než je nevyhnutné. Prvou otázkou preto nie je iba „Ako vytvoríme model?“, ale aj „Potrebujeme na tento problém AI?“ Niekedy je jednoduchší, transparentnejší postup rovnako účinný a menej rizikový.
Spravodlivosť a nediskriminácia. Systém nemá bez oprávneného dôvodu znevýhodňovať ľudí podľa pohlavia, veku, etnického pôvodu, zdravotného stavu, sociálneho postavenia alebo iných charakteristík. Férovosť však nemožno zabezpečiť jedinou matematickou metrikou. Znamená tiež spravodlivý prístup k výhodám technológie, zapojenie rôznych skupín do jej tvorby a pozornosť voči ľuďom, ktorí môžu niesť neúmerné riziko.
Súkromie a kvalitná správa dát. Údaje majú byť získané a používané zákonne, bezpečne a v súlade s jasným účelom. Treba obmedziť ich množstvo, dobu uchovávania aj okruh osôb s prístupom. Etická správa dát zahŕňa pôvod, kvalitu, reprezentatívnosť, súhlas tam, kde je potrebný, a pravidlá ďalšieho použitia. Kombinovanie údajov môže vytvoriť citlivé poznatky aj vtedy, keď jednotlivé zdroje citlivé neboli.
Transparentnosť a vysvetliteľnosť. Ľudia majú dostať informácie primerané svojej úlohe a miere rizika. Používateľ potrebuje vedieť, čo systém dokáže, čo nedokáže a ako správne čítať jeho výstup. Audítor potrebuje podrobnejšiu dokumentáciu o dátach, verzii modelu a testovaní. Dotknutá osoba potrebuje zrozumiteľné dôvody rozhodnutia a možnosť nápravy. Transparentnosť teda neznamená automaticky zverejniť zdrojový kód; znamená sprístupniť informácie, ktoré umožňujú systém pochopiť, skontrolovať a primerane spochybniť.
Zodpovednosť a kontrolovateľnosť. Za dôsledky AI musí byť zodpovedný človek alebo organizácia. Povinnosti sa majú prideliť vopred a zaznamenať tak, aby bolo možné spätne určiť, kto rozhodol o účele, dátach, nasadení a reakcii na incident. Potrebné sú auditné záznamy, mechanizmy podávania sťažností a právomoc systém opraviť, obmedziť alebo vypnúť.
Bezpečnosť, spoľahlivosť a odolnosť. AI sa má testovať vzhľadom na predvídateľné chyby, zneužitie, útoky a zmeny podmienok. Náročnosť testovania má zodpovedať možnej závažnosti škody. Dôležitá nie je len priemerná presnosť, ale aj typ chýb: falošne pozitívny výsledok môže mať iný dosah než falošne negatívny výsledok. Systém treba sledovať aj po nasadení, pretože dáta a správanie používateľov sa vyvíjajú.
Sociálna a environmentálna udržateľnosť. Etické hodnotenie má zahŕňať vplyv na prácu, verejnú diskusiu, kultúru, dostupnosť služieb a životné prostredie. Výpočtová infraštruktúra spotrebúva energiu, vodu a materiály; prínos systému preto treba posudzovať aj voči jeho environmentálnym nákladom. UNESCO zároveň zdôrazňuje rozmanitosť, inklúziu a ochranu ekosystémov ako súčasť etiky, nie ako vedľajšie témy.
Prehľad konkrétnych etických problémov
Jedným z najznámejších problémov je algoritmická zaujatosť. Môže vzniknúť výberom nereprezentatívnych dát, spôsobom ich označovania, návrhom cieľovej premennej, optimalizačnou metrikou aj samotným použitím výstupu. Ak údaje zachytávajú historickú diskrimináciu, model ju môže prezentovať ako neutrálny vzor. Aj celkovo presný systém môže mať výrazne horšie výsledky pre menšinovú skupinu. Riešenie preto vyžaduje technické testy aj poznanie sociálneho kontextu.
Ďalšou oblasťou je súkromie a sledovanie. Rozpoznávanie tváre, profilovanie správania alebo spájanie rozsiahlych databáz môže umožniť užitočné služby, ale aj neprimerané monitorovanie. Súhlas používateľa pritom nemusí byť skutočne slobodný, ak je služba nevyhnutná alebo sú podmienky nejasné. Ochrana súkromia sa preto nemá začať až formulárom so súhlasom, ale už návrhom účelu a dátovej architektúry.
Nedostatočná vysvetliteľnosť je obzvlášť závažná pri rozhodovaní o úvere, zamestnaní, zdravotnej starostlivosti, vzdelávaní alebo verejnej podpore. Ak nikto nevie uviesť zrozumiteľný dôvod výsledku, dotknutý človek má sťaženú možnosť upozorniť na chybu. Vysvetlenie však musí byť pravdivé a užitočné, nie iba technicky pôsobiaci opis, ktorý vytvára ilúziu kontroly.
Pri generatívnej AI sa k týmto otázkam pridávajú nepravdivé alebo vymyslené výstupy, deepfaky, automatizované šírenie manipulácie, podvody, napodobňovanie identity a spory o pôvod tréningových dát či autorské práva. Schopnosť vytvárať obsah vo veľkom môže oslabiť informačnú integritu. Samotné označenie obsahu vytvoreného AI je užitočné, ale nerieši presnosť, zámer ani následné šírenie.
V pracovnom prostredí môže AI zvyšovať produktivitu a bezpečnosť, no zároveň rozširovať sledovanie zamestnancov, nepriehľadné hodnotenie výkonu alebo tlak na tempo práce. Automatizácia mení skladbu profesií a rozdelenie prínosov medzi pracovníkov, firmy a spoločnosť. Vo vzdelávaní pomáha personalizovať učenie a sprístupniť podporu, ale prináša otázky akademickej integrity, ochrany údajov, závislosti od nástrojov a postupného oslabovania schopnosti samostatne myslieť.
Etickým problémom je aj koncentrácia moci a nerovný prístup. Vývoj najvýkonnejších modelov si vyžaduje veľké množstvo dát, výpočtovej kapacity a kapitálu. Niekoľko organizácií tak môže určovať technické štandardy aj podmienky prístupu, zatiaľ čo menšie jazyky a komunity zostanú slabo zastúpené. Globálne prínosy AI sa preto nemusia automaticky rozdeliť spravodlivo.
Kto nesie zodpovednosť
Výstup AI je výsledkom celého reťazca rozhodnutí. Na jednom systéme sa môžu podieľať tvorcovia základného modelu, poskytovateľ aplikácie, dodávateľ dát, integrátor, organizácia, ktorá systém nasadí, aj zamestnanec, ktorý použije jeho odporúčanie. Ak sú povinnosti nejasné, vzniká „medzera zodpovednosti“: každý aktér môže tvrdiť, že rozhodujúcu časť ovládal niekto iný.
Zodpovednosť preto nemožno preniesť na algoritmus. AI nemá právnu ani morálnu zodpovednosť v ľudskom zmysle. Organizácia má určiť vlastníka systému a konkrétne úlohy pri schvaľovaní, monitorovaní, riešení incidentov a ukončení používania. Americký etický rámec pre spravodajskú komunitu ponúka praktický príklad: žiada zdokumentovať účel, riziká, zdroje dát, obmedzenia, testy, verzie modelu a osoby zodpovedné v jednotlivých etapách. Zdôrazňuje tiež pravidelné preverovanie, pretože model, ktorý bol vhodný pri nasadení, môže neskôr zlyhávať v zmenenom prostredí.
Zmysluplná zodpovednosť zahŕňa aj práva dotknutých osôb. Človek má vedieť, že AI podstatne ovplyvnila rozhodnutie, dostať primerané vysvetlenie, upozorniť na nesprávne údaje a požiadať o ľudské preskúmanie. Ak systém spôsobí ujmu, musí existovať dostupný postup nápravy, nie iba všeobecná deklarácia etických hodnôt.
Čítajte mapu od východiska cez súvislosť až po dôsledok. Spoločným jadrom je „Zodpovedná AI drží rovnováhu“.
Etika počas celého životného cyklu AI
Etické riadenie sa začína pred napísaním prvého riadku kódu. Organizácia má najskôr opísať problém, legitímny účel, očakávaných používateľov a skupiny, ktoré systém môže ovplyvniť. Potom má porovnať prínosy a riziká, zvážiť alternatívy a určiť, či je AI vôbec primeraným riešením. Čím vážnejšie môžu byť následky, tým prísnejšie majú byť požiadavky na dôkazy, kontrolu a dohľad.
Pri vývoji treba riadiť pôvod a kvalitu dát, definovať vhodné metriky a testovať výkon pre relevantné skupiny a podmienky. Dokumentácia má zachytiť predpoklady, zamýšľané a nevhodné použitia, známe obmedzenia a výsledky overovania. Rozmanitý tím pomáha odhaliť slepé miesta, no sám osebe férovosť nezaručuje; potrebuje jasné procesy a možnosť upozorniť na problém bez tlaku obchodných termínov.
Pred nasadením je potrebné vykonať hodnotenie rizík a vplyvov, bezpečnostné skúšky a pripraviť ľudský dohľad. Používatelia musia dostať školenie, ktoré vysvetlí nielen ovládanie systému, ale aj jeho hranice a typické zlyhania. Pri nákupe riešenia od tretej strany má organizácia požadovať dostatočné informácie o dátach, testovaní, bezpečnosti, aktualizáciách a rozdelení zodpovednosti. Obchodné tajomstvo nemôže byť univerzálnou výhovorkou pre nemožnosť preveriť vysoko rizikový nástroj.
Po nasadení treba sledovať presnosť, odchýlky medzi skupinami, sťažnosti, incidenty, zmeny vstupných dát aj nové spôsoby použitia. Dôležitá je spätná väzba od ľudí, ktorí so systémom pracujú alebo znášajú jeho dôsledky. Každá významná zmena modelu, dát alebo účelu si môže vyžiadať nové posúdenie. Súčasťou životného cyklu je aj plán ukončenia: kto rozhodne o vypnutí, ako sa ochránia údaje a čím sa služba nahradí.
Od princípov ku každodennej praxi
Všeobecné zásady majú hodnotu iba vtedy, keď sa premietnu do rozhodovacích právomocí, rozpočtu a kontrolných mechanizmov. Užitočný program zodpovednej AI preto zahŕňa register používaných systémov, ich triedenie podľa rizika, hodnotenie vplyvov, pravidlá pre dáta, technické testovanie, dokumentáciu, ľudský dohľad, monitorovanie a postup riešenia incidentov. Rámec NIST tieto činnosti organizuje do štyroch prepojených funkcií: riadiť, zmapovať kontext, merať riziká a manažovať ich. Nejde o jednorazový kontrolný zoznam, ale o opakovaný proces.
Etické riadenie potrebuje spoluprácu technických odborníkov s vedením, právnikmi, špecialistami na bezpečnosť a ochranu súkromia, odborníkmi na konkrétnu oblasť aj zástupcami dotknutých skupín. Príklad z farmaceutického sektora ukazuje AstraZeneca, ktorá svoje princípy vysvetliteľnosti, férovosti, ľudského prospechu, bezpečnosti a súkromia prepája s rámcom riadenia rizík a praktickými pokynmi. Dôležitá je práve táto väzba: etický kódex bez procesov môže zostať iba marketingovým tvrdením.
Súčasťou praxe je kultúra, v ktorej sa problémy môžu pomenovať včas. Zamestnanci potrebujú AI gramotnosť, primerané školenia a jasný kanál na eskaláciu pochybností. Vedenie musí hodnotiť úspech nielen podľa rýchlosti nasadenia či finančného výnosu, ale aj podľa kvality, bezpečnosti a vplyvu na ľudí. Ako upozorňuje Harvard Division of Continuing Education, etická gramotnosť pomáha vedúcim pracovníkom vnímať právne a reputačné riziká aj širšie dôsledky pre súkromie, pracovný trh a životné prostredie.
Etika, regulácia a medzinárodné rámce
Medzinárodné dokumenty vytvárajú spoločný slovník, ich právna sila sa však líši. Odporúčanie UNESCO je globálny normatívny rámec založený na ľudských právach. Princípy OECD pre AI podporujú inovatívnu a dôveryhodnú AI rešpektujúcu ľudské práva a demokratické hodnoty; po aktualizácii v roku 2024 venujú väčšiu pozornosť generatívnej AI, informačnej integrite, bezpečnosti, ochrane súkromia a duševnému vlastníctvu. NIST ponúka dobrovoľný, prakticky orientovaný rámec manažmentu rizík použiteľný naprieč sektormi.
Rámcový dohovor Rady Európy o umelej inteligencii, otvorený na podpis v septembri 2024, je prvou medzinárodnou právne záväznou zmluvou v tejto oblasti. Sústreďuje sa na súlad životného cyklu AI s ľudskými právami, demokraciou a právnym štátom a vyžaduje mechanizmy hodnotenia vplyvov, transparentnosti a nápravy.
V Európskej únii premieňa viaceré etické zásady na právne povinnosti Akt o umelej inteligencii. Uplatňuje prístup založený na riziku: niektoré praktiky zakazuje, pre vysoko rizikové systémy stanovuje prísne požiadavky a pri určitých systémoch vyžaduje transparentnosť. Väčšina pravidiel sa začala uplatňovať 2. augusta 2026; povinnosti AI gramotnosti a prvé zákazy platia už od februára 2025 a pravidlá pre modely AI na všeobecné použitie od augusta 2025. Po úprave harmonogramu v júli 2026 sa osobitné pravidlá pre viaceré vysoko rizikové použitia začnú uplatňovať neskôr, najmä v rokoch 2027 a 2028. Právne termíny je preto pri praktickom nasadení potrebné overovať podľa aktuálneho znenia.
Regulácia však nenahrádza etické uvažovanie. Nemôže vopred opísať každý nový model, kontext a konflikt hodnôt. Organizácia môže splniť formálne požiadavky, no stále zlyhať, ak ignoruje zraniteľnú skupinu alebo nasadí technológiu bez rozumného spoločenského prínosu. Naopak, etické princípy bez merateľných povinností, nezávislej kontroly a možnosti nápravy nemusia ľudí dostatočne chrániť. Právo a etika sa preto majú dopĺňať.
Konflikty hodnôt a hranice jednoduchých riešení
Etické princípy sa nedajú vždy maximalizovať súčasne. Podrobné vysvetlenie môže naraziť na ochranu súkromia, bezpečnosť alebo legitímne obchodné tajomstvo. Zhromaždenie citlivých demografických údajov môže pomôcť odhaliť diskrimináciu, ale zároveň vytvára nové riziko pre súkromie. Najpresnejší model môže byť menej zrozumiteľný a príliš prísne bezpečnostné obmedzenia môžu znížiť dostupnosť užitočnej služby. Aj rôzne matematické definície férovosti môžu viesť k odlišným výsledkom.
Neexistuje preto univerzálny zoznam, ktorý automaticky označí systém za etický. Potrebné je kontextové posúdenie: aký je účel, kto získava výhody, kto nesie riziká, aká závažná je možná ujma, či existuje menej invazívna alternatíva a kto sa na rozhodovaní nepodieľal. Kompromisy majú byť vedomé, zdokumentované a preskúmateľné. Niektoré hranice pritom nemajú byť predmetom optimalizácie; základné práva a ľudská dôstojnosť nemožno jednoducho vymeniť za vyššiu efektivitu.
Záver
Etika umelej inteligencie nie je prekážkou inovácie ani doplnkom, ktorý sa pridá k hotovému produktu. Je spôsobom, ako rozhodovať, či má byť systém vytvorený, na aký účel, za akých podmienok a s akými zárukami. Jej cieľom nie je odstrániť každé riziko, čo by pri dynamickej technológii nebolo realistické, ale riziká včas rozpoznať, primerane ich riadiť a zabezpečiť, aby za rozhodnutia zostali zodpovední ľudia a inštitúcie.
Zodpovedná AI spája ľudské práva, technickú kvalitu a dobré organizačné riadenie. Vyžaduje kvalitné dáta, testovanie, bezpečnosť a dokumentáciu, ale aj zmysluplný dohľad, účasť dotknutých skupín, dostupnú nápravu a priebežné vzdelávanie. Dôvera nevzniká tým, že systém označíme za inteligentný alebo etický. Vzniká z overiteľných dôvodov: z jasného účelu, primeraného prínosu, otvorenosti o obmedzeniach a ochoty niesť zodpovednosť, keď technológia zlyhá.
Použité a odporúčané zdroje
- UNESCO - Recommendation on the Ethics of Artificial Intelligence
- Harvard DCE - Ethics in AI: Why It Matters
- U.S. Intelligence Community - Artificial Intelligence Ethics Framework
- Ethics Unwrapped, University of Texas at Austin - AI Ethics
- University of Helsinki - Ethics of AI
- AstraZeneca - Data and AI Ethics
- NIST - Artificial Intelligence Risk Management Framework 1.0
- OECD - AI Principles
- Rada Európy - Framework Convention on Artificial Intelligence
- Európska komisia - AI Act
Hĺbkové vysvetlenie a pedagogický seminár
Táto časť rozširuje tému etika umelej inteligencie: princípy, riziká a zodpovedná prax od základného porozumenia k samostatnej práci. Cieľom nie je zapamätať si čo najviac výrazov. Cieľ je rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Čitateľ má po prejdení výkladu vedieť pojem opísať vlastnými slovami, rozpoznať ho v novom prípade, oddeliť fakt od predpokladu a navrhnúť primeraný ďalší krok.
Pracujte aktívne. Po každom bloku zatvorte text a skúste myšlienku vysvetliť bez pomoci. Potom ju použite na inom príklade, než je uvedený v kapitole. Ak vysvetlenie funguje iba pri pôvodnej formulácii, ešte nejde o prenositeľné poznanie. Praktickým výsledkom tejto časti bude etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania.
Pri každej úlohe sa oddeľuje odborná presnosť od jazykovej presvedčivosti. Dobrá odpoveď musí ukázať pôvod tvrdenia, podmienky platnosti a neistotu. Základné dôkazové pravidlo je: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Súčasne platí hranica: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby.
Technicky možné ešte nemusí znamenať spoločensky prijateľné. Náčrt použite ako krátku kontrolu pred praktickým rozhodnutím.
Pojmová mapa do hĺbky
1. Ľudská autonómia
človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte ľudská autonómia vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
2. Férovosť
systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte férovosť vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
3. Súkromie
zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte súkromie vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
4. Transparentnosť
dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte transparentnosť vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
5. Vysvetliteľnosť
vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte vysvetliteľnosť vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
6. Zodpovednosť
konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte zodpovednosť vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
7. Neškodenie a proporcionalita
intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte neškodenie a proporcionalita vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
8. Participácia
ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Tento pojem preto netreba poznať iba ako definíciu. Čitateľ má vedieť vysvetliť, akú úlohu plní, s čím sa dá zameniť a podľa akého pozorovateľného znaku ho rozpozná v reálnom systéme. Pri učení pomáha nakresliť si jednoduchú schému: vstup, spracovanie, výstup, kontrola a následok chyby. Pojem sa tak prestane javiť ako izolované cudzie slovo a dostane miesto v celom procese.
V tejto kapitole posudzujte participácia vo vzťahu k cieľu: rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy Nestačí povedať, že prvok je dôležitý. Treba ukázať mechanizmus, konkrétny príklad a hranicu platnosti. Ak dve vysvetlenia vedú k odlišným praktickým rozhodnutiam, porovnajte ich na rovnakom vstupe a zapíšte, ktorý rozdiel výsledok spôsobil.
Pracovná otázka: Ako by ste tento pojem vysvetlili človeku, ktorý nepozná odbornú terminológiu, ale musí podľa vysvetlenia urobiť správne rozhodnutie? Odpoveď má obsahovať bežný príklad, jeden nepríklad a vetu o tom, čo z pojmu nemožno vyvodiť. Overenie sa riadi pravidlom: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať.
Ako sa pojmy ovplyvňujú
Samostatná znalosť definícií nestačí, pretože systémy AI vznikajú spojením viacerých vrstiev. Nasledujúce dvojice ukazujú, kde býva medzi pojmami príčinná väzba, kde ide o obmedzenie a kde iba o zdanlivú podobnosť. Pri každej väzbe si položte otázku, čo by zostalo rovnaké, keby sa zmenil iba jeden z dvoch prvkov.
Väzba 1: Ľudská autonómia a Férovosť
Pojmy ľudská autonómia a férovosť sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Druhý dopĺňa odlišnú časť obrazu: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 2: Férovosť a Súkromie
Pojmy férovosť a súkromie sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Druhý dopĺňa odlišnú časť obrazu: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 3: Súkromie a Transparentnosť
Pojmy súkromie a transparentnosť sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Druhý dopĺňa odlišnú časť obrazu: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 4: Transparentnosť a Vysvetliteľnosť
Pojmy transparentnosť a vysvetliteľnosť sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Druhý dopĺňa odlišnú časť obrazu: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 5: Vysvetliteľnosť a Zodpovednosť
Pojmy vysvetliteľnosť a zodpovednosť sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Druhý dopĺňa odlišnú časť obrazu: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 6: Zodpovednosť a Neškodenie a proporcionalita
Pojmy zodpovednosť a neškodenie a proporcionalita sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Druhý dopĺňa odlišnú časť obrazu: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 7: Neškodenie a proporcionalita a Participácia
Pojmy neškodenie a proporcionalita a participácia sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Druhý dopĺňa odlišnú časť obrazu: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Väzba 8: Participácia a Ľudská autonómia
Pojmy participácia a ľudská autonómia sa v praxi stretávajú, ale neznamenajú to isté. Prvý opisuje túto skutočnosť: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Druhý dopĺňa odlišnú časť obrazu: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Rozlíšenie je dôležité preto, že zmena jednej časti nemusí automaticky zmeniť druhú. Lepší či väčší vstup napríklad nemusí odstrániť chybný cieľ, rovnako ako kvalitný postup nemusí napraviť neoverený zdroj.
Vytvorte dve krátke tvrdenia. V prvom použite oba pojmy správne a ukážte medzi nimi príčinnú alebo procesnú väzbu. V druhom zámerne urobte bežnú zámenu. Potom vysvetlite, čo by sa pri tejto zámene pokazilo v artefakte etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Takéto porovnanie je náročnejšie než zopakovanie definície, ale spoľahlivejšie odhalí skutočné porozumenie.
Kontrolný bod: Hranica tejto úvahy znie: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak príklad hranicu prekračuje, treba ho označiť ako hypotézu alebo úlohu pre odborníka, nie ako hotový záver.
Rozpracované prípady z praxe
Prípadová štúdia nemá jedinú správnu vetu. Má však správny spôsob práce: pomenovať otázku, preveriť vstupy, použiť vhodné pojmy, ukázať neistotu a vybrať krok primeraný následkom chyby. Nasledujúce prípady sú zámerne zostavené tak, aby nestačilo iba zopakovať poučku.
Prípad 1: Náborový filter
Situácia: historické dáta odrážajú staré rozhodnutia a uchádzač potrebuje vedieť, ako sa výsledok používa a ako požiadať o ľudské preskúmanie. Najskôr oddeľte to, čo o prípade naozaj vieme, od predpokladov a dojmov. Vytvorte tri stĺpce: doložené fakty, pracovné hypotézy a chýbajúce údaje. Toto rozdelenie bráni tomu, aby plynulé vysvetlenie zakrylo nedostatok dôkazov.
Analýza: Prípad preskúmajte cez pojmy ľudská autonómia a transparentnosť. Pri prvom platí: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Pri druhom platí: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Napíšte, ktorý z nich vysvetľuje pozorovaný jav a ktorý iba pomáha určiť ďalšiu otázku. Ak ich nemožno rozlíšiť z dostupných údajov, správnym výsledkom je zoznam potrebných dôkazov, nie sebavedomý odhad.
Rozhodnutie: Navrhnite najmenší bezpečný ďalší krok. Má viesť k cieľu rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy a súčasne rešpektovať hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Výstupom nemá byť iba odsek textu, ale konkrétna položka použiteľná v praxi - rozhodovací záznam, porovnávacia tabuľka, test, kontrolný zoznam alebo opravený návrh.
Spätná kontrola: Iný človek má vedieť z výstupu určiť, z akých údajov vznikol a prečo bol zvolený daný krok. Platí dôkazové pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Ak táto stopa chýba, prípad ešte nie je uzavretý.
Prípad 2: AI dohľad na pracovisku
Situácia: meranie môže sľubovať bezpečnosť alebo produktivitu, ale zároveň meniť súkromie, správanie, stres a mocenskú rovnováhu. Najskôr oddeľte to, čo o prípade naozaj vieme, od predpokladov a dojmov. Vytvorte tri stĺpce: doložené fakty, pracovné hypotézy a chýbajúce údaje. Toto rozdelenie bráni tomu, aby plynulé vysvetlenie zakrylo nedostatok dôkazov.
Analýza: Prípad preskúmajte cez pojmy súkromie a zodpovednosť. Pri prvom platí: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Pri druhom platí: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Napíšte, ktorý z nich vysvetľuje pozorovaný jav a ktorý iba pomáha určiť ďalšiu otázku. Ak ich nemožno rozlíšiť z dostupných údajov, správnym výsledkom je zoznam potrebných dôkazov, nie sebavedomý odhad.
Rozhodnutie: Navrhnite najmenší bezpečný ďalší krok. Má viesť k cieľu rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy a súčasne rešpektovať hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Výstupom nemá byť iba odsek textu, ale konkrétna položka použiteľná v praxi - rozhodovací záznam, porovnávacia tabuľka, test, kontrolný zoznam alebo opravený návrh.
Spätná kontrola: Iný človek má vedieť z výstupu určiť, z akých údajov vznikol a prečo bol zvolený daný krok. Platí dôkazové pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Ak táto stopa chýba, prípad ešte nie je uzavretý.
Prípad 3: Personalizované vzdelávanie
Situácia: systém prispôsobuje úlohy, no chybný profil môže zúžiť očakávania a žiak musí mať cestu k oprave a širším možnostiam. Najskôr oddeľte to, čo o prípade naozaj vieme, od predpokladov a dojmov. Vytvorte tri stĺpce: doložené fakty, pracovné hypotézy a chýbajúce údaje. Toto rozdelenie bráni tomu, aby plynulé vysvetlenie zakrylo nedostatok dôkazov.
Analýza: Prípad preskúmajte cez pojmy vysvetliteľnosť a participácia. Pri prvom platí: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Pri druhom platí: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Napíšte, ktorý z nich vysvetľuje pozorovaný jav a ktorý iba pomáha určiť ďalšiu otázku. Ak ich nemožno rozlíšiť z dostupných údajov, správnym výsledkom je zoznam potrebných dôkazov, nie sebavedomý odhad.
Rozhodnutie: Navrhnite najmenší bezpečný ďalší krok. Má viesť k cieľu rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy a súčasne rešpektovať hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Výstupom nemá byť iba odsek textu, ale konkrétna položka použiteľná v praxi - rozhodovací záznam, porovnávacia tabuľka, test, kontrolný zoznam alebo opravený návrh.
Spätná kontrola: Iný človek má vedieť z výstupu určiť, z akých údajov vznikol a prečo bol zvolený daný krok. Platí dôkazové pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Ak táto stopa chýba, prípad ešte nie je uzavretý.
Prípad 4: Zdravotné odporúčanie
Situácia: priemerne presný model môže mať odlišný výkon pre skupiny a výsledok potrebuje klinický kontext, súhlas a odbornú zodpovednosť. Najskôr oddeľte to, čo o prípade naozaj vieme, od predpokladov a dojmov. Vytvorte tri stĺpce: doložené fakty, pracovné hypotézy a chýbajúce údaje. Toto rozdelenie bráni tomu, aby plynulé vysvetlenie zakrylo nedostatok dôkazov.
Analýza: Prípad preskúmajte cez pojmy neškodenie a proporcionalita a férovosť. Pri prvom platí: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Pri druhom platí: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Napíšte, ktorý z nich vysvetľuje pozorovaný jav a ktorý iba pomáha určiť ďalšiu otázku. Ak ich nemožno rozlíšiť z dostupných údajov, správnym výsledkom je zoznam potrebných dôkazov, nie sebavedomý odhad.
Rozhodnutie: Navrhnite najmenší bezpečný ďalší krok. Má viesť k cieľu rozpoznať etický problém počas celého životného cyklu AI a premeniť všeobecnú hodnotu na konkrétne pravidlo, kontrolu, zodpovednosť a možnosť nápravy a súčasne rešpektovať hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Výstupom nemá byť iba odsek textu, ale konkrétna položka použiteľná v praxi - rozhodovací záznam, porovnávacia tabuľka, test, kontrolný zoznam alebo opravený návrh.
Spätná kontrola: Iný človek má vedieť z výstupu určiť, z akých údajov vznikol a prečo bol zvolený daný krok. Platí dôkazové pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Ak táto stopa chýba, prípad ešte nie je uzavretý.
Hodnotiaca rubrika
Výstup hodnotite na piatich osiach od nula do štyri. Pri pojmovej presnosti znamená nula zámenu základných pojmov a štvorka správne vysvetlenie vrátane hranice a nepríkladu. Pri dôkazovej opore znamená nula tvrdenia bez pôvodu a štvorka jasné oddelenie zdroja, pozorovania, výpočtu a hypotézy. Pri praktickej použiteľnosti znamená nula všeobecnú radu a štvorka konkrétny artefakt s vlastníkom a ďalším krokom.
Štvrtou osou je riadenie rizika. Najvyššie hodnotenie dostane riešenie, ktoré pomenuje následok chyby, zvolí primeranú kontrolu a vie sa bezpečne zastaviť. Piatou osou je zrozumiteľnosť. Odbornosť sa neposudzuje podľa počtu cudzích slov, ale podľa toho, či text používa presné výrazy, vysvetľuje ich a vedie čitateľa od známeho k novému.
Za zvládnutú sa považuje odpoveď, ktorá má aspoň tri body na každej osi a spolu najmenej sedemnásť bodov z dvadsiatich. Slabšia os sa neopravuje kozmetickou úpravou. Pri nízkej presnosti sa treba vrátiť k definíciám, pri slabých dôkazoch k zdrojom, pri nízkej použiteľnosti k cieľu a pri riziku k hraniciam nasadenia.
Seminárne úlohy s postupom riešenia
Nasledujúce úlohy možno riešiť samostatne alebo v skupine. Každá spája pojem s konkrétnym prípadom a vyžaduje výstup, ktorý sa dá skontrolovať. Pri skupinovej práci nech jedna osoba pripraví riešenie, druhá ho skúsi vyvrátiť a tretia skontroluje zrozumiteľnosť pre človeka mimo odboru.
Seminárna úloha 1: Ľudská autonómia v situácii ai dohľad na pracovisku
Úlohu spracujte ako vysvetlenie pre začiatočníka. Východiskom je situácia: meranie môže sľubovať bezpečnosť alebo produktivitu, ale zároveň meniť súkromie, správanie, stres a mocenskú rovnováhu. Hlavný pojem má tento význam: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem súkromie, ktorý pripomína: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 2: Férovosť v situácii personalizované vzdelávanie
Úlohu spracujte ako odborné posúdenie tvrdenia. Východiskom je situácia: systém prispôsobuje úlohy, no chybný profil môže zúžiť očakávania a žiak musí mať cestu k oprave a širším možnostiam. Hlavný pojem má tento význam: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem zodpovednosť, ktorý pripomína: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 3: Súkromie v situácii zdravotné odporúčanie
Úlohu spracujte ako návrh kontrolovaného pracovného postupu. Východiskom je situácia: priemerne presný model môže mať odlišný výkon pre skupiny a výsledok potrebuje klinický kontext, súhlas a odbornú zodpovednosť. Hlavný pojem má tento význam: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem ľudská autonómia, ktorý pripomína: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 4: Transparentnosť v situácii náborový filter
Úlohu spracujte ako diagnostika zlyhania. Východiskom je situácia: historické dáta odrážajú staré rozhodnutia a uchádzač potrebuje vedieť, ako sa výsledok používa a ako požiadať o ľudské preskúmanie. Hlavný pojem má tento význam: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem transparentnosť, ktorý pripomína: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 5: Vysvetliteľnosť v situácii ai dohľad na pracovisku
Úlohu spracujte ako vysvetlenie pre začiatočníka. Východiskom je situácia: meranie môže sľubovať bezpečnosť alebo produktivitu, ale zároveň meniť súkromie, správanie, stres a mocenskú rovnováhu. Hlavný pojem má tento význam: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem neškodenie a proporcionalita, ktorý pripomína: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 6: Zodpovednosť v situácii personalizované vzdelávanie
Úlohu spracujte ako odborné posúdenie tvrdenia. Východiskom je situácia: systém prispôsobuje úlohy, no chybný profil môže zúžiť očakávania a žiak musí mať cestu k oprave a širším možnostiam. Hlavný pojem má tento význam: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem férovosť, ktorý pripomína: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 7: Neškodenie a proporcionalita v situácii zdravotné odporúčanie
Úlohu spracujte ako návrh kontrolovaného pracovného postupu. Východiskom je situácia: priemerne presný model môže mať odlišný výkon pre skupiny a výsledok potrebuje klinický kontext, súhlas a odbornú zodpovednosť. Hlavný pojem má tento význam: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem vysvetliteľnosť, ktorý pripomína: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 8: Participácia v situácii náborový filter
Úlohu spracujte ako diagnostika zlyhania. Východiskom je situácia: historické dáta odrážajú staré rozhodnutia a uchádzač potrebuje vedieť, ako sa výsledok používa a ako požiadať o ľudské preskúmanie. Hlavný pojem má tento význam: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem participácia, ktorý pripomína: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 9: Ľudská autonómia v situácii ai dohľad na pracovisku
Úlohu spracujte ako vysvetlenie pre začiatočníka. Východiskom je situácia: meranie môže sľubovať bezpečnosť alebo produktivitu, ale zároveň meniť súkromie, správanie, stres a mocenskú rovnováhu. Hlavný pojem má tento význam: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem súkromie, ktorý pripomína: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 10: Férovosť v situácii personalizované vzdelávanie
Úlohu spracujte ako odborné posúdenie tvrdenia. Východiskom je situácia: systém prispôsobuje úlohy, no chybný profil môže zúžiť očakávania a žiak musí mať cestu k oprave a širším možnostiam. Hlavný pojem má tento význam: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem zodpovednosť, ktorý pripomína: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 11: Súkromie v situácii zdravotné odporúčanie
Úlohu spracujte ako návrh kontrolovaného pracovného postupu. Východiskom je situácia: priemerne presný model môže mať odlišný výkon pre skupiny a výsledok potrebuje klinický kontext, súhlas a odbornú zodpovednosť. Hlavný pojem má tento význam: zber a odvodenie údajov sa obmedzujú na jasný účel, primeraný rozsah, dobu uchovania a kontrolované prístupy. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem ľudská autonómia, ktorý pripomína: človek má rozumieť významnému použitiu AI, vedieť ovplyvniť vstup a mať reálnu možnosť odmietnuť alebo napadnúť výsledok. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 12: Transparentnosť v situácii náborový filter
Úlohu spracujte ako diagnostika zlyhania. Východiskom je situácia: historické dáta odrážajú staré rozhodnutia a uchádzač potrebuje vedieť, ako sa výsledok používa a ako požiadať o ľudské preskúmanie. Hlavný pojem má tento význam: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem transparentnosť, ktorý pripomína: dotknutý človek dostane zrozumiteľnú informáciu o úlohe AI, použitých údajoch, hraniciach a spôsobe kontaktovania zodpovednej osoby. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 13: Vysvetliteľnosť v situácii ai dohľad na pracovisku
Úlohu spracujte ako vysvetlenie pre začiatočníka. Východiskom je situácia: meranie môže sľubovať bezpečnosť alebo produktivitu, ale zároveň meniť súkromie, správanie, stres a mocenskú rovnováhu. Hlavný pojem má tento význam: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem neškodenie a proporcionalita, ktorý pripomína: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 14: Zodpovednosť v situácii personalizované vzdelávanie
Úlohu spracujte ako odborné posúdenie tvrdenia. Východiskom je situácia: systém prispôsobuje úlohy, no chybný profil môže zúžiť očakávania a žiak musí mať cestu k oprave a širším možnostiam. Hlavný pojem má tento význam: konkrétny vlastník má právomoc systém zmeniť alebo zastaviť a nesie povinnosť reagovať na chybu, sťažnosť a incident. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem férovosť, ktorý pripomína: systém sa posudzuje podľa rozdelenia prínosov, chýb a prekážok medzi relevantnými skupinami, nie iba podľa celkového priemeru. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 15: Neškodenie a proporcionalita v situácii zdravotné odporúčanie
Úlohu spracujte ako návrh kontrolovaného pracovného postupu. Východiskom je situácia: priemerne presný model môže mať odlišný výkon pre skupiny a výsledok potrebuje klinický kontext, súhlas a odbornú zodpovednosť. Hlavný pojem má tento význam: intenzita zberu, automatizácie a zásahu musí zodpovedať legitímnemu prínosu a cene možného omylu. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem vysvetliteľnosť, ktorý pripomína: vysvetlenie sa prispôsobuje rozhodnutiu a príjemcovi a ukazuje hlavné dôvody, nie technický detail bez praktického významu. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Seminárna úloha 16: Participácia v situácii náborový filter
Úlohu spracujte ako diagnostika zlyhania. Východiskom je situácia: historické dáta odrážajú staré rozhodnutia a uchádzač potrebuje vedieť, ako sa výsledok používa a ako požiadať o ľudské preskúmanie. Hlavný pojem má tento význam: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Nezačínajte hotovým záverom. Najprv jednou vetou pomenujte otázku, ktorú riešite, potom vypíšte dostupné vstupy a označte údaj, ktorý by mohol najviac zmeniť výsledok.
Do riešenia zapojte aj pojem participácia, ktorý pripomína: ľudia, ktorých systém ovplyvní, vstupujú do návrhu a hodnotenia skôr, než sa rozhodnutia uzavrú iba medzi technickým tímom a objednávateľom. Vysvetlite, či medzi pojmami vzniká príčinný vzťah, obmedzenie, kontrola alebo iba voľná súvislosť. Ak tvrdíte príčinu, uveďte aj alternatívne vysvetlenie. Ak navrhujete postup, určte vlastníka každého kroku a bod, v ktorom musí zasiahnuť človek.
Výsledok odovzdajte v podobe etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Musí obsahovať stručný záver, dôvody, neistoty, zdroje alebo vstupné údaje a jeden test, ktorým možno záver spochybniť. Nestačí, aby text pôsobil odborne. Hodnotí sa, či sa dá overiť a či podľa neho možno konať bez skrytých domnienok.
Sebahodnotenie: Overte presnosť pojmov, logickú nadväznosť a zrozumiteľnosť pre cieľového čitateľa. Použite pravidlo: etické tvrdenie musí pomenovať, koho sa týka, aký pozorovateľný následok sleduje a podľa akých dát alebo skúseností sa bude posudzovať. Nakoniec skontrolujte hranicu: súlad so zákonom je nevyhnutný, ale nemusí sám osebe zabezpečiť férovosť, primeranosť, dôstojnosť alebo zmysluplnú možnosť voľby. Ak ju riešenie prekračuje, preformulujte záver na podmienené tvrdenie alebo odporúčanie na ďalšie odborné posúdenie.
Záverečné overenie porozumenia
Bez návratu k textu vysvetlite tri najdôležitejšie pojmy, ku každému uveďte príklad aj nepríklad a nakreslite medzi nimi väzby. Potom vyberte jeden prípad z vlastnej práce alebo života a spracujte ho podľa rovnakej štruktúry ako prípadové štúdie. Ak neviete určiť vstup, dôkaz a hranicu rozhodnutia, vráťte sa k príslušnému bloku.
Záverečný artefakt má mať podobu etická karta použitia s dotknutými ľuďmi, prínosmi, rizikami, dátami, rozhodovacími právami, kontrolami a postupom odvolania. Mal by byť použiteľný aj o mesiac, keď už nebudete mať v pamäti formulácie tejto kapitoly. Doplňte preto dátum, zdroje, predpoklady, rozhodnutie, zodpovednú osobu a podmienku revízie. Tak sa učivo mení na pracovnú kompetenciu, nie iba na dočasný pocit porozumenia.
Praktické odpovede
Často kladené otázky
Kto nesie zodpovednosť za rozhodnutie AI?
Zodpovednosť zostáva na ľuďoch a organizáciách, ktoré systém navrhujú, nasadzujú a používajú. Model sám nemá právnu ani morálnu zodpovednosť.
Stačí, keď je AI technicky presná?
Nie. Presnosť treba posudzovať spolu s férovosťou, bezpečnosťou, ochranou súkromia, vysvetliteľnosťou a možnosťou ľudského zásahu.
Kedy je potrebné hodnotenie vplyvov?
Najmä vtedy, keď systém ovplyvňuje práva, príležitosti, zdravie, financie alebo bezpečnosť ľudí. Posúdenie sa má zopakovať aj po významnej zmene účelu, dát alebo modelu.
Najlepšie porozumenie vzniká, keď si zhrniete tri hlavné myšlienky vlastnými slovami.
Prihlásiť / registrovať