Umelá inteligencia (AI) sa stáva neoddeliteľnou súčasťou našich životov v rôznych oblastiach – od podnikania cez medicínu až po každodenné služby. Práve preto bolo v Európskej únii nevyhnutné regulovať jej využívanie, aby sa zabezpečilo, že tieto technológie budú bezpečné a budú rešpektovať základné práva a slobody občanov únie.
Nariadenie o umelej inteligencii
V júni 2024 EÚ prijala nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 o umelej inteligencii, ktoré stanovuje harmonizované pravidlá pre jej vývoj a používanie. Toto nariadenie o AI je jedným z prvých svojho druhu vo svete a jeho cieľom je zabezpečiť, aby technológie umelej inteligencie, ktoré sa dostanú na trh EÚ, boli bezpečné a spoľahlivé.
Nariadenie o AI rozdeľuje systémy umelej inteligencie do štyroch kategórií podľa úrovne rizika:
- Neprijateľné riziko – niektoré umelé inteligencie sú úplne zakázané, napríklad systémy na sociálne skórovanie (tzv. social scoring) alebo biometrická identifikácia v reálnom čase vo verejných priestranstvách (s určitými prísnymi výnimkami, napríklad pre orgány činné v trestnom konaní).
- Vysoké riziko – ide o systémy, ktoré môžu mať výrazný vplyv na zdravie, bezpečnosť alebo práva osôb, ako sú umelé inteligencie používané v zdravotníctve, doprave, školstve, zamestnávaní, v oblasti azylu a migrácie. Tieto systémy musia spĺňať prísne požiadavky na transparentnosť, bezpečnosť a dohľad.
- Obmedzené riziko – patria sem napríklad chatboty, systémy na spracovanie textu, obrazu, zvuku ale aj modely umelej inteligencie na všeobecné účely. Tu sa vyžaduje, aby používatelia boli informovaní, že interagujú s umelou inteligenciou.
- Minimálne riziko – zahŕňa umelú inteligenciu, ktoré nepredstavuje významné riziko pre jednotlivcov, ako sú video hry alebo spamové filtre. Na tieto systémy sa vzťahujú len minimálne regulačné požiadavky.
Zakázané umelé inteligencie
Umelá inteligencia môže byť použitá takmer na čokoľvek, bez ohľadu na to, či je to pre spoločnosť prínosné alebo nie. Preto nariadenie o AI určité spôsoby použitia umelej inteligencie priamo zakazuje.
Zakázaná je napríklad:
- umelá inteligencia, ktorá používa podprahové techniky alebo účelové manipulatívne alebo klamlivé techniky, aby ovplyvnila rozhodnutia osoby alebo skupiny osôb. Tieto osoby alebo skupiny potom spravia rozhodnutie, ktoré by inak nespravili.
- umelá inteligencia, ktorá využíva zraniteľné osoby alebo osobitné skupiny osôb z dôvodu ich veku, zdravotného postihnutia, ťažkej osobnej sociálnej alebo ekonomickej situácie s cieľom, aby spravili rozhodnutie, ktoré by inak riadne informované nespravili;
- umelá inteligencia na tzv. social scoring – teda na hodnotenie alebo klasifikáciu správania osôb alebo ich charakteristík počas určitého obdobia, ktoré vedie k škodlivému alebo nepriaznivému zaobchádzaniu s osobami. Osobám by sa na základe sociálneho skóre neumožňoval prístup k určitým službám, tovaru, vzdelaniu, zamestnaniu a pod.
- umelá inteligencia na posúdenie alebo predvídanie toho, či osoba spácha trestný čin, a to výlučne na základe profilovania;
- umelá inteligencia na vytváranie alebo rozširovanie databázy na rozpoznávanie tváre, a to prostredníctvom extrakcie tváre z internetu alebo CCTV;
- umelá inteligencia na zisťovanie emócii v oblasti pracoviska a vzdelávacích inštitúcii. Tu platí jedna výnimka pre umelú inteligenciu na zdravotné a bezpečnostné účely.
- umelá inteligencia, ktorá je systémom biometrickej kategorizácie osôb, pričom dochádza ku kategorizácii s cieľom odvodiť ich rasu, politické názory, členstvo v odboroch, náboženské presvedčenie, sexuálnu orientáciu;
- umelá inteligencia, ktorej účelom je diaľková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch s cieľom presadzovania práva.
Vysokoriziková umelá inteligencia
Vysokorizikové umelé inteligencie sú tie, ktoré môžu mať výrazný vplyv na zdravie, bezpečnosť alebo práva osôb.
Medzi vysokorizikové umelé inteligencie zaraďujeme napríklad:
- umelá inteligencia ako bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné predpisy, ako aj umelá inteligencia, ktorá sama je týmto výrobkom;
- systémy biometrickej identifikácie (systémy diaľkovej biometrickej identifikácie, systémy na biometrickú kategorizáciu podľa citlivých charakteristík osôb, systém na rozpoznávanie emócii);
- systémy kritickej infraštruktúry, teda umelé inteligencie, ktoré sa majú použiť ako bezpečnostné komponenty v kritickej digitálnej infraštruktúre, cestná premávka, dodávka vody, plynu, elektriny a tepla;
- systémy používané pri prístupe k vzdelaniu, teda umelé inteligencie, ktoré sa majú použiť na určenie prístupu alebo prijatia do vzdelávacích inštitúcií, na hodnotenie vzdelávacích výstupov, na posúdenie úrovne vzdelania, na zisťovanie zakázaného správania študentov pri skúškach;
- systémy používané v súvislosti so zamestnancami, teda umelé inteligencie, ktoré sa majú použiť na nábor alebo výber osôb na pracovné miesto, analýzu a filtrovanie žiadostí a na hodnotenie uchádzačov, pri rozhodovaní v pracovnoprávnych vzťahoch, kariérnom postupe, ukončení pracovného vzťahu, monitorovanie a hodnotenie výkonnosti zamestnancov;
- systémy používané na prístup k základným súkromným a verejným službám, teda umelé inteligencie na hodnotenie oprávnenosti dávok, zdravotnej starostlivosti, na hodnotenie úverovej bonity klienta, bodové ohodnotenie kreditného rizika – okrem AML a finančných podvodov, na hodnotenie a stanovenie cien pre životné a zdravotné poistenie, hodnotenie a klasifikácia tiesňových hovorov a určovania ich priority;
- systémy používané na presadzovanie práva (odhaľovanie, zisťovanie, vyšetrovanie trestných činov), teda umelé inteligencie na posúdenie toho, či sa osoba stane obeťou trestných činov, na použitie ako polygrafy (detektor lži), na hodnotenie spoľahlivosti dôkazov v priebehu vyšetrovania, na posúdenie toho či osoba spácha alebo opätovne spácha trestný čin, profilovanie osôb v priebehu vyšetrovania a odhaľovania trestných činov;
- systémy používané v oblasti migrácie, azylu, teda umelé inteligencie na posúdenie bezpečnostného rizika, rizika neoprávnenej migrácie, zdravotného rizika, ktoré predstavuje osoba žiadajúca o vstup na územie EÚ, na preskúmanie žiadosti o azyl, víza, povolenia na pobyt, v súvislosti s migráciou, azylom a riadením kontroly hraníc;
- systémy používané v súdnom systéme alebo demokratickom štáte, teda umelé inteligencie na skúmanie a interpretáciu skutkových okolností v justícii alebo v arbitráži alebo na ovplyvňovanie výsledku volieb alebo referenda, volebného správania osôb pri hlasovaní (neplatí pre nástroje na organizovanie, optimalizáciu alebo tvorbu štruktúry politických kampaní z administratívneho a logistického hľadiska).
Všetky tieto umelé inteligencie sa považujú za vysokorizikové. Pre vysokorizikové umelé inteligencie v zásade platí, že pred uvedením na trh EÚ musia prejsť procesom posudzovania zhody.
Posudzovanie zhody umelých inteligencií je jedným z hlavných pilierov nariadenia o AI. To znamená, že vysokoriziková umelá inteligencia, ktorá bude uvedená na trh v EÚ, musí prejsť prísnym posudzovaním zhody – podobne ako to poznáme napríklad pri elektronických zariadeniach s označením CE. Táto kontrola je zameraná na ochranu spotrebiteľov, zabezpečenie bezpečnosti a minimalizáciu rizík spojených s používaním umelej inteligencie.
Cieľom nariadenia o AI je totiž zabezpečiť, aby bola každá umelá inteligencia v rámci EÚ bezpečná, transparentná, spoľahlivá a rešpektovala základné ľudské práva.
