Harvard ukazuje, ako zavádzať AI zodpovedne. Rozhodujúce nie sú iba možnosti nástrojov, ale aj bezpečnosť a pravidlá

Najlepší AI nástroj nemusí byť najlepším riešením pre organizáciu

Predstavme si školu, ktorej učitelia začínajú používať generatívnu umelú inteligenciu. Jeden pripravuje pracovné listy, druhý potrebuje spracovať rozsiahle dokumenty a ďalší by rád automatizoval administratívu.

Každý má inú predstavu o ideálnom nástroji. Niektorí uprednostnia ChatGPT, iní Gemini, Claude alebo Copilot. Vedenie školy však musí riešiť otázky, ktoré jednotlivý používateľ nemusí vidieť. Môžu zamestnanci vkladať do AI interné dokumenty? Kto rozhodne o pripojení nástroja k školskému úložisku? Ako sa zabezpečí, aby sa citlivé údaje nedostali mimo povoleného prostredia?

Podobný problém riešia univerzity, nemocnice, úrady aj súkromné firmy.

Harvard University Information Technology (HUIT) zverejňuje pre svojich používateľov prehľad schválených AI nástrojov. Obsahuje nielen názvy produktov, ale aj ich dostupnosť, cenu, podporované možnosti a pravidlá práce s údajmi.

Tento prístup je poučný práve tým, čo nie je na prvý pohľad viditeľné. Harvard neprezentuje umelú inteligenciu ako jediný univerzálny produkt. Vytvára organizované prostredie, v ktorom rôzne technológie plnia rôzne úlohy.

Zároveň je potrebné rozlišovať medzi konkrétnou politikou Harvardu a všeobecne použiteľným princípom. Jeho interné schválenia sa nevzťahujú automaticky na používateľov iných organizácií ani na bežné osobné účty tých istých poskytovateľov.

Tri úrovne prístupu k umelej inteligencii

Harvard vo svojom prehľade rozlišuje tri základné skupiny.

Prvú tvoria bezplatne dostupné všeobecné nástroje, určené predovšetkým na experimentovanie a každodennú produktivitu v univerzitnom prostredí.

Druhou skupinou sú nástroje dostupné na požiadanie za dodatočný poplatok. Poskytujú rozsiahlejšie možnosti, vyššie limity alebo špecializované funkcionality.

Tretiu skupinu predstavujú vývojárske nástroje a prístup cez API, ktoré umožňujú vytvárať vlastné aplikácie a automatizované systémy.

Takéto rozdelenie má z organizačného hľadiska význam. Nie každý zamestnanec potrebuje všetky možnosti.

Človeku, ktorý niekoľkokrát týždenne upravuje texty, môže vyhovovať základný nástroj. Analytický pracovník spracúvajúci rozsiahle podklady môže potrebovať pokročilý výskum. Vývojár integrujúci AI do interného informačného systému zase potrebuje programové rozhranie.

Keby organizácia automaticky prideľovala najvyššiu platenú úroveň všetkým zamestnancom, pravdepodobne by platila aj za nevyužívané funkcie. Opačný extrém je rovnako problematický. Ak odborní pracovníci nemajú dostupné primerané nástroje, môžu hľadať náhradné riešenia mimo schváleného prostredia.

Dobrý systém preto nepriraďuje AI nástroje podľa prestíže produktu, ale podľa konkrétnych pracovných potrieb a rizík.

Aké nástroje Harvard porovnáva?

V kategórii všeobecného použitia uvádza Harvard AI Sandbox, základné a platené varianty Google Gemini a Microsoft Copilot, ďalej Anthropic Claude a OpenAI ChatGPT Edu.

Ich porovnanie nesleduje iba schopnosť konverzovať. Zameriava sa na funkcie, ktoré rozhodujú o využiteľnosti pri skutočnej práci. Patrí medzi ne hĺbkový webový výskum, programovanie, práca s obrazom, AI agenti a konektory, ktoré umožňujú prepájať nástroj s ďalšími službami.

Zaujímavým prvkom je Harvard AI Sandbox, ktorý umožňuje pracovať s modelmi od viacerých poskytovateľov. Jeho dostupnosť v rámci univerzity vytvára priestor na experimentovanie a porovnávanie modelov bez toho, aby používateľ musel pri každom pokuse začínať v úplne inom prostredí.

Podporu viacerých modelov však netreba zamieňať s automatickou podporou všetkých modelov na trhu. Dostupnosť vyplýva z konkrétnej ponuky schváleného systému.

Gemini a Copilot sa v prehľade objavujú v rôznych úrovniach. Claude a ChatGPT Edu predstavujú ďalšie možnosti pre náročnejšie pracovné činnosti vrátane pokročilého výskumu či práce s kódom.

Takéto porovnanie je užitočnejšie než jednoduchý rebríček, v ktorom by víťazil produkt s najvyšším skóre v jednom teste. Skutočná hodnota AI nástroja závisí od toho, či podporuje úlohy, ktoré organizácia potrebuje vykonávať.

Bezpečnosť nie je doplnková funkcia

Jedným z najdôležitejších bodov univerzitnej stránky je pravidlo práce s dôvernými údajmi.

Harvard uvádza, že uvedené schválené nástroje možno pri prihlásení univerzitným účtom používať s informáciami do jeho internej úrovne dôvernosti Level 3.

Zároveň výslovne stanovuje, že nie sú schválené pre údaje úrovne Level 4, pričom medzi príkladmi uvádza vysoko citlivé informácie súvisiace s americkými právnymi predpismi HIPAA a FERPA a chránené zdravotné informácie PHI.

To je dôležité rozlíšenie. Schválenie nástroja neznamená, že doň možno vložiť ľubovoľný dokument. Znamená, že organizácia definovala podmienky, pri ktorých považuje jeho používanie za prijateľné.

Konkrétne bezpečnostné úrovne Harvardu však nie sú všeobecnou klasifikáciou podľa európskeho GDPR. Slovenská škola alebo firma si musí vytvoriť vlastné pravidlá vychádzajúce z povahy spracúvaných informácií a platných právnych povinností.

Napríklad pri tvorbe anonymného pracovného listu je situácia odlišná než pri analýze dokumentu obsahujúceho osobné údaje dieťaťa, zdravotné informácie alebo dôverné personálne hodnotenie.

Rozhodujúce nie je iba to, či model úlohu zvládne. Rovnako dôležité je, či má organizácia oprávnenie a vhodné podmienky takýto dokument spracúvať.

Súkromie a trénovanie modelov: čo Harvard garantuje?

Harvard pri uvedených nástrojoch deklaruje, že údaje zadávané používateľmi prihlásenými univerzitným účtom nebudú použité na trénovanie modelov ich poskytovateľov. Ide o významnú vlastnosť inštitucionálneho používania AI.

Používateľ však nesmie predpokladať, že rovnaké pravidlo automaticky platí pre každý osobný účet alebo všetky produktové varianty dostupné verejnosti.

Zároveň je potrebné rozlišovať medzi nepoužitím dát na trénovanie a ich úplným nespracúvaním alebo neuchovávaním.

Aj služba, ktorá dáta nepoužíva na trénovanie, ich potrebuje spracovať na vykonanie požadovanej úlohy. Podľa konkrétnych podmienok môžu existovať ďalšie pravidlá uchovávania, zaznamenávania prevádzkových údajov či prístupu administrátorov.

Pre organizácie je preto dôležité skúmať nielen reklamné vyhlásenia poskytovateľov, ale aj zmluvné podmienky, technické nastavenia a pravidlá správy prístupov.

Takáto kontrola môže byť pre používateľov menej viditeľná než nové funkcie AI. Pri serióznom nasadení je však zásadná.

Prečo Harvard neaktivuje každú novinku okamžite

Technologické spoločnosti dnes zverejňujú nové funkcie v rýchlom tempe. Používatelia sa tak môžu dozvedieť o možnosti, ktorú vo svojom univerzitnom alebo firemnom účte ešte nevidia.

Harvard výslovne upozorňuje, že nová funkcia nemusí byť dostupná ihneď po verejnom oznámení výrobcu. Mnohé nové možnosti totiž musia prejsť bezpečnostným a súkromnostným posúdením.

Obzvlášť dôležité je to pri AI agentoch, ktorí môžu používať nástroje a vykonávať viacstupňové úlohy.

Medzi obyčajným vygenerovaním odpovede a systémom s prístupom k dokumentom, kalendáru či ďalším aplikáciám existuje zásadný rozdiel.

Pri druhej možnosti už neposudzujeme iba kvalitu textového výstupu. Musíme skúmať, aké údaje systém vidí, aké úkony môže vykonať, ako možno jeho činnosť skontrolovať a či je možné nežiaduce akcie zastaviť.

Opatrnosť pred sprístupnením novej funkcie preto nemusí byť známkou technologickej zaostalosti. Môže predstavovať racionálne riadenie rizika.

Prečo sú konektory a API samostatnou témou

Harvard venuje osobitnú pozornosť konektorom a vývojárskym nástrojom.

Konektor umožňuje prepojiť AI s externou aplikáciou alebo dátovým zdrojom. Používateľ tak nemusí informácie zakaždým ručne kopírovať.

Toto prepojenie prináša pohodlie, ale zároveň rozširuje rozsah prístupu systému.

Predstavme si asistenta pripojeného k firemnému úložisku. Dokáže vyhľadávať dokumenty a sumarizovať informácie. Ak však dostane príliš široké oprávnenia, môže pracovať aj s obsahom, ktorý nie je potrebný na konkrétnu úlohu.

Dobrým pravidlom je poskytovať iba minimálny potrebný prístup a pravidelne kontrolovať jeho rozsah.

API predstavuje ďalšiu úroveň. Umožňuje vývojárom integrovať jazykové a ďalšie modely do vlastných aplikácií.

Harvard podľa svojej stránky sprístupňuje oprávneným používateľom prístup k API prostredníctvom univerzitnej platformy vrátane služieb založených na AWS Bedrock, OpenAI a Google Gemini.

Pre školu alebo firmu je takýto prístup zaujímavý vtedy, keď potrebuje AI ako súčasť vlastného systému, nie iba ako samostatnú chatovaciu aplikáciu.

Čo si môžu z Harvardu vziať slovenské školy a firmy

Najväčšou hodnotou tohto modelu nie je samotný zoznam nástrojov. Je ním spôsob rozhodovania.

Slovenská organizácia môže začať inventúrou činností, pri ktorých by AI priniesla úžitok. Následne určí, aké údaje sa pri nich spracúvajú a aké sú možné následky chyby. Až potom má zmysel porovnávať konkrétne produkty a licencie.

Pri základných administratívnych úlohách môže postačovať jednoduchší systém. Pri práci s rozsiahlymi dokumentmi, citlivými údajmi alebo automatizovanými procesmi treba dôkladnejšie technické a právne posúdenie.

Organizácia by mala jasne určiť aj to, kto schvaľuje nové AI nástroje, kto ich administruje a kto zodpovedá za kontrolu výsledkov.

Nie je pritom nevyhnutné vytvoriť rozsiahlu byrokraciu. Menšia organizácia môže používať krátku internú smernicu, schválený zoznam nástrojov a jednoduchý postup pri posudzovaní nových požiadaviek. Dôležité je, aby pravidlá zodpovedali skutočným rizikám a zamestnanci im rozumeli.

Záver: Zodpovedné zavádzanie AI je manažérska kompetencia

Prístup Harvard University Information Technology ukazuje, že zavádzanie umelej inteligencie má viac vrstiev než výber technologicky najvýkonnejšieho modelu.

Organizácia potrebuje poznať pracovné potreby, rozhodnúť o primeraných oprávneniach, nastaviť ochranu údajov a zabezpečiť kontrolu nových funkcií.

Technológie sa pritom budú meniť. Dnes môže najlepšie vyhovovať jeden model, o niekoľko mesiacov iný.

Dlhodobou konkurenčnou výhodou preto nemusí byť vlastníctvo konkrétnej licencie, ale schopnosť organizácie zavádzať nové nástroje bezpečne, účelne a bez zbytočnej závislosti od jedného dodávateľa.

Práve tento princíp má zmysel preniesť aj do AI vzdelávania: učiť ľudí rozumieť možnostiam a rizikám technológie, nie iba ovládať aktuálne používateľské rozhranie.

Zdroje

Hlavný zdroj: Harvard University Information Technology, AI Tools.

https://www.huit.harvard.edu/ai/tools

Doplňujúce východiská: Harvard University Information Technology – informácie o bezpečnosti, súkromí, schválených konektoroch a programovom prístupe k AI službám.

Redakčná poznámka: Príklady zo slovenského školstva a firemného prostredia sú samostatným analytickým rozpracovaním pravidiel, ktoré zverejňuje Harvard. Nejde o doslovný preklad univerzitnej metodiky ani o právne posúdenie konkrétnej organizácie.

Pokračujte vo vzdelávaní s PoznAI

Technické schopnosti AI sú iba jednou časťou jej využívania. Rovnako dôležitá je bezpečnosť, zodpovednosť za výsledky a schopnosť nastaviť zrozumiteľné pravidlá v organizácii.

https://www.poznai.sk