Umelá inteligencia (AI) sa stáva neoddeliteľnou súčasťou našich životov v rôznych oblastiach – od podnikania cez medicínu až po každodenné služby. Práve preto bolo v Európskej únii nevyhnutné zaviesť legislatívne opatrenia na reguláciu jej využívania, aby sa zabezpečilo, že tieto technológie budú bezpečné a budú rešpektovať základné práva a slobody občanov únie.
Nariadenie o umelej inteligencii
V júni 2024 bolo prijaté nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 o umelej inteligencii, ktoré stanovuje harmonizované pravidlá pre jej vývoj a používanie. Toto nariadenie je jedným z prvých svojho druhu vo svete a jeho cieľom je zabezpečiť, aby technológie umelej inteligencie, ktoré sa dostanú na trh EÚ, boli bezpečné a spoľahlivé.
Nariadenie o umelej inteligencii rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa úrovne rizika:
- Neprijateľné riziko – niektoré umelé inteligencie sú úplne zakázané, napríklad systémy na sociálne skórovanie (tzv. social scoring) alebo biometrická identifikácia v reálnom čase vo verejných priestranstvách (s určitými prísnymi výnimkami, napríklad pre orgány činné v trestnom konaní).
- Vysoké riziko – ide o systémy, ktoré môžu mať výrazný vplyv na zdravie, bezpečnosť alebo práva osôb, ako sú umelé inteligencie používané v zdravotníctve, doprave, školstve, zamestnávaní, v oblasti azylu a migrácie. Tieto systémy musia spĺňať prísne požiadavky na transparentnosť, bezpečnosť a dohľad.
- Obmedzené riziko – patria sem napríklad chatboty a systémy na spracovanie textu. Tu sa vyžaduje, aby používatelia boli informovaní, že interagujú s umelou inteligenciou.
- Minimálne riziko – zahŕňa umelú inteligenciu, ktoré nepredstavuje významné riziko pre jednotlivcov, ako sú video hry alebo spamové filtre. Na tieto systémy sa vzťahujú len minimálne regulačné požiadavky.
Jedným z hlavných pilierov tohto nariadenia je posudzovanie zhody, čo znamená, že umelá inteligencia, ktorá bude uvedená na trh v EÚ, musí prejsť prísnym posudzovaním zhody – podobne ako to poznáme napríklad pri elektronických zariadeniach s označením CE. Táto kontrola je zameraná na ochranu spotrebiteľov, zabezpečenie bezpečnosti a minimalizáciu rizík spojených s používaním umelej inteligencie.
Cieľom nariadenia je totiž zabezpečiť, aby bola každá umelá inteligencia v rámci EÚ bezpečná, transparentná, spoľahlivá a rešpektovala základné ľudské práva.
Nariadenie o umelej inteligencii patrí teda do kategórie posudzovania zhody, čo platí pre určité systémy umelej inteligencie, najmä pre tie, ktoré sú klasifikované ako vysokorizikové. Vysokorizikové systémy umelej inteligencie musia prejsť procesom posudzovania zhody, aby mohli byť legálne uvedené na trh v EÚ.
Pri posudzovaní zhody sa zisťuje súlad umelej inteligencie najmä s nasledovnými kritériami:
- Riadenie rizík – poskytovatelia musia identifikovať a minimalizovať riziká spojené s používaním umelej inteligencie.
- Transparentnosť a vysvetliteľnosť – poskytovatelia musia zabezpečiť, že užívatelia a regulačné orgány môžu pochopiť, ako umelá inteligencia funguje, ako spracováva údaje a ako správne interpretovať jej výstupy.
- Ochrana dát – systému umelej inteligencie musia byť v súlade s nariadením GDPR a inými predpismi na ochranu osobných údajov.
- Záznam o činnosti – poskytovatelia musia viesť dokumentáciu o tom, ako umelá inteligencia funguje a ako bola vyvinutá.
- Ľudský dohľad– po uvedení na trh musí byť systém umelej inteligencie pravidelne monitorovaný, aby sa zabezpečilo, že bude bezpečný a spoľahlivý počas celého životného cyklu.
Podľa nariadenia o umelej inteligencii platí, že posudzovanie zhody pre vysokorizikové systémy umelej inteligencie zahŕňa niekoľko krokov, ktoré sú navrhnuté tak, aby zabezpečili, že umelá inteligencia je bezpečná, transparentná a v súlade s právnymi požiadavkami EÚ.
Kroky pre posúdenie zhody:
- Identifikácia rizikovej kategórie umelej inteligencie systému: Najprv je potrebné určiť, či systém patrí do kategórie vysokorizikových systémov. Tieto systémy sú určené na základe kritérií uvedených v nariadení o AI a jeho prílohách. Vysokoriziková umelá inteligencia zahŕňa napríklad aplikácie, ktoré môžu mať významný dopad na bezpečnosť alebo základné práva osôb. Ide najmä o systémy používané v zdravotníctve, doprave, vzdelávaní alebo pri posudzovaní bonity na finančných trhoch a pod.
- Posúdenie zhody: Umelá inteligencia musí prejsť procesom posudzovania zhody, ktorý je vykonávaný buď interným tímom spoločnosti alebo nezávislou tretou stranou (notifikovanou osobou), v závislosti od úrovne rizika. Cieľom tohto procesu je overiť, či systém umelej inteligencie spĺňa technické a právne požiadavky uvedené v nariadení o AI. Posúdenie zahŕňa najmä testovanie umelej inteligencie, kontrolu bezpečnosti, transparentnosti, ochrany údajov a etických pravidiel.
- Technická dokumentácia: Poskytovatelia systémov umelej inteligencie musia pripraviť technickú dokumentáciu, ktorá bude obsahovať:
- popis systému umelej inteligencie a jeho funkcionality;
- informácie o údajoch použitých na tréning a validáciu systému;
- analýzu rizík a kroky na ich zmiernenie;
- opatrenia na zabezpečenie kontinuálnej bezpečnosti a spoľahlivosti systému po uvedení na trh .
- Certifikát zhody: V prípade, ak posudzovanie zhody vykonávala notifikovaná osoba, poskytovateľ obdrží aj certifikát zhody. Certifikát zhody vydaný notifikovanou osobou a je platný po dobu 4 alebo 5 rokov, a to v závislosti od konkrétnej umelej inteligencie. Systémy umelej inteligencie, ktoré nedodržia vyššie uvedený postup, môžu byť z trhu stiahnuté a ich prevádzkovatelia môžu čeliť sankciám.
- Monitorovanie po uvedení na trh: Po získaní certifikátu zhody musia poskytovatelia umelej inteligencie zabezpečiť, aby bol systém umelej inteligencie pravidelne monitorovaný a aktualizovaný v prípade, že sa vyskytnú nové riziká alebo problémy počas jeho používania.
Na základe splnenia týchto kritérií môže poskytovateľ AI vyhotoviť EÚ vyhlásenie o zhode, ktoré potvrdzuje, že AI splnila všetky regulačné normy pred uvedením na trh v EÚ. Toto EÚ vyhlásenie zhody slúži ako dôkaz, že AI systém bol posúdený a je v súlade s predpismi na ochranu bezpečnosti a práv občanov.
Pre každú umelú inteligenciu vyhotoví poskytovateľ EÚ vyhlásenie o zhode, ktorým na seba preberá plnú zodpovednosť za splnenie všetkých regulačných pravidiel a noriem. Poskytovateľ vyhotoví EÚ vyhlásenie o zhode tak pre prípad, že posudzovanie zhody vykonal jeho interný tím, ako aj pre prípad, že posúdenie zhody vykonala notifikovaná osoba.
Súčasne musia vysokorizikové systému umelej inteligencie, ktoré majú EÚ vyhlásenie o zhode, obsahovať aj označenie CE, a ak posudzovanie zhody vykonala notifikovaná osoba, aj identifikačné číslo notifikovanej osoby.
