Používanie AI sa riadi Nariadením AI (AI Act) a Zákonom o AI ale nie je len o tom. Umelá inteligencia je totiž používanú v firme – teda organizácii, plnej ľudí a jednotlivých pracovných pozícií. Stačí mať teda AI iba v súlade s Nariadením AI (AI Act)? Nestačí.
Súčasťou správne fungujúcej firmy, ktorá používa AI je aj AI Governance. Teda interné pravidlá v podobe smernice, ktoré upravujú vývoj, nasadenie ale aj používanie umelej inteligencie vo firme.
Okrem splnenia požiadaviek Nariadenia AI (AI Act) a Zákon o AI firmy prijímajú aj interné smernice, napríklad smernicu o využívaní AI, smernicu o bezpečnosti AI a iné.
Nie je to len ďalší predpis navyše – je to základ pre správne fungovanie AI vo firme. Používanie umelej inteligencie je podobné ako používanie akéhokoľvek iného nástroja, bez ohľadu na to, či ide o stroj alebo digitálny softvér.
Je preto nevyhnutné upraviť používanie AI vo firme, ale nevznikal chaos a každý vedel, čo môže a nemôže s umelou inteligenciou robiť.
Správne nastavené interné procesy vyžadujú, aby smernica AI obsahovala minimálne tieto požiadavky:
Stratégia a vízia AI – firma jasne určí dôvod, prečo AI používa a aký cieľ sa má jej používaním dosiahnuť (zvýšiť efektivitu a kvalitu, znížiť náklady, zvýšiť produktivitu).
Určia sa hlavné ciele umelej inteligencie – na čo presne sa bude AI používať a hranice jej používania.
Rovnako sa určia kritéria pre AI nástroje, ktoré musí AI splniť – ako sú bezpečnosť, kompatibilita, náklady, ochrana osobných údajov, kybernetická bezpečnosť.
Etické zásady používania – sú pravidlá, ktoré majú zabrániť nevhodným alebo škodlivým výsledkom z AI. Napríklad zásada férovosti (aby AI nediskriminovala určité skupiny), transparentnosti (informovanie o používaní AI).
Zásada zodpovednosti – definovať, kto nesie akú zodpovednosť. Firma bude vždy zodpovedná voči svojim zákazníkom, ale kto bude vo firme zodpovedný za AI?. K tomu pomôže nastavenie rolí a zodpovedností. Firma by nemala fungovať tak, že ktokoľvek si môže vo firme používať akúkoľvek AI. Rovnako to nefunguje ani s iným softvérom.
Je potrebné definovať:
- kto schvaľuje nasadenie AI;
- kto môže systém AI nastavovať;
- kto monitoruje používanie systému AI a výstupy;
- kto rieši incidenty, ktoré vzniknú;
- kto je vo firme zodpovedný za systém AI a jeho fungovanie.
Odporúčame zaviesť pozíciu AI Officer – osobu, ktorá bude zodpovedať vedeniu firmy za AI a jej správne používanie.
Firma by taktiež mala určiť:
- ktorí zamestnanci alebo oddelenia môžu AI používať;
- za akým účelom a na aké úlohy sa môže AI používať;
- upraviť povolené spôsoby používania AI;
- upraviť zakázané spôsoby používania AI;
- aké vstupné údaje môžu zamestnanci používať.
Hodnotenie rizík AI – každý systém AI, zo svojej podstaty, môže byť rizikom pre zamestnancov, firmu alebo zákazníkov.
Osoba zodpovedná za AI (AI Officer) je povinná vyhodnocovať jednotlivé riziká, ktoré vznikajú alebo môžu potenciálne vzniknúť pri používaní AI. Keď ich má vyhodnotené, je povinná prijať potrebné opatrenia na odstránenie týchto rizík alebo ich zmiernenie.
Príklad:
HR oddelenie používa AI na vyhodnocovanie kvality práce zamestnancov a dodržiavanie pracovných povinností. Existuje tu riziko, že AI môže nesprávne vyhodnotiť kvalitu práce alebo plnenie povinností. Riziko môžeme odstrániť tým, že vedúci HR oddelenia skontroluje hodnotenie zamestnancov ako výstup z umelej inteligencie.
Proces nasadenia novej AI – v smerniciach často upravujeme aj proces nasadenia novej AI.
Proces pozostáva z niekoľkých základných krokov:
- presne definovať účel a ciele, ktoré má AI plniť;
- zatriediť AI do príslušnej kategórie (vysokoriziková, mierne riziko, zakázaná AI, modely AI na všeobecné účely);
- identifikovať postavenie firmy podľa Nariadenia AI;
- splniť všetky povinnosti podľa kategórie AI a postavenia firmy podľa Nariadenia AI;
- výber správneho dodávateľa/dodávateľov;
- kybernetická bezpečnosť.
Okrem toho odporúčam uviesť – kto môže prísť s návrhom na nasadenie AI, ktoré oddelenia nasadenie novej AI schvaľujú a zásady compliance (Nariadenie AI, GDPR, Kybernetická bezpečnosť).
K nasadeniu AI do firemných procesov odporúčame vypracovať aj AI Framework. AI Framework je právne relevantný dokument, ktorý prevedie spoločnosť tým, aké právne predpisy sa na novú AI budú vzťahovať.
Spoločnosť tak má pred nasadením AI jasnú predstavu, čo musí zabezpečiť z pohľadu compliance a pod ktoré predpisy bude AI patriť.
Monitorovanie a vyhodnocovanie – používanie AI je statické, ale dynamické. AI sa čase vyvíja a vyvíjajú sa aj spôsoby, ako zamestnanci prípadne zákazníci s AI pracujú.
Úlohou AI Officera by preto malo byť aj:
- sledovanie používania AI a jej dopady na firmu, zamestnancov a zákazníkov;
- sledovanie spoľahlivosti AI;
- sledovanie incidentov (bezpečnostných, nesprávnych rozhodnutí a výstupov, porušovanie smernice o AI);
- priebežne reportovať vedeniu ako sa AI používa, či sa dosahujú ciele a aké riziká alebo incidenty boli zaznamenané.
Vzdelávania a tréning – školenie a vzdelávanie zamestnancov, ktorí pracujú s AI alebo ju inak používajú. Táto povinnosť vyplýva aj z Nariadenia AI a je už v platnosti.
Obsah školení:
- základy AI (čo je AI, aké má nedostatky);
- ako sa AI používa vo firme;
- povolené spôsoby používania;
- zakázané spôsoby používania;
- špeciálne školenie pre každý AI systém, ktorý firma nasadila (ako ho používať správne, ako interpretovať výstupy, čomu sa vyvarovať);
- spôsob informovania o chybách alebo zlyhaniach AI (aby bolo možné týmto zlyhaniam predchádzať).
Komunikácia smerom k zákazníkom a zamestnancom – firma, ktorá nasadila AI by mala informovať zákazníkov alebo zamestnancov o tom, že AI vstúpila do služieb (helpdesk) alebo že je používaná v súvislosti so zákazníkmi alebo zamestnancami.
Určí sa presný okruh ľudí, ktorí sú dotknutí používaním AI, a títo musia byť riadne informovaní.
Stanovia sa presné postupy:
- čom majú byť jednotlivé osoby informované;
- akým spôsobom;
- kto ich informuje;
- čo je obsahom takejto informácie.
Napríklad, uchádzači o zamestnanie musia byť informovaní o tom, že ich životopis bude spracúvať aj AI. Budú o tom informovaní emailom pri zaslaní životopisu.
Za informovanie je zodpovedné vedenie HR a zamestnanec, ktorý má obsadenie voľnej pracovnej pozície na starosti.
Uchádzači musia byť informovaní o tom, že:
- ich životopis bude spracúvať aj AI;
- s cieľom vybrať najvhodnejšieho kandidáta podľa inzerátu;
- majú právo na vysvetlenie, prečo neboli zaradení do výberového konania.
Všeobecné pravidlá – okrem vyššie uvedených pravidiel odporúčam zaviesť aj všeobecné základné pravidlá používania AI.
Medzi najzakladenejšie by sme mohli zaradiť nasledovné:
- ako vstup do AI nepoužívať autorské diela (knihy, fotografie, grafiku, zvukové záznamy a iné), ku ktorým nemá používateľ všetky práva;
- ako vstup do AI nepoužívať osobné údaje a nepoužívať AI na triedenie týchto informácií, profilovanie osôb a automatizované rozhodovanie, okrem prípadu, že to je upravené v GDPR dokumentácii;
- ak bude použitím vstupu do AI alebo výstupu z AI spôsobená škoda, zodpovedá za ňu vždy používateľ;
- zvážiť aké vstupy zadávať do AI – k týmto vstupom získa spoločnosť vyvíjajúca AI všetky práva na ich použitie;
- nepoužívať obchodné tajomstvo a ani dôverné informácie, ktoré sú chránené povinnosťou mlčanlivosti;
- zodpovednosť za škodu spôsobenú AI.
Výhodou AI Governance a vlastnej internej smernice o AI nie je len kontrola nad tým, kto a akým spôsobom vo firme používa AI, ale aj to, že je tým vytvorený rámec pre budúce nasadenie novej AI.
