Nariadenie o AI prináša prvú ucelenú reguláciu umelej inteligencie (AI) v Európskej únii. Poďme sa postupne pozrieť na ktoré umelé inteligencie sa Nariadenie o AI nevzťahuje, ktoré sú zakázané, vysokorizikové a ktoré majú iba mierne riziko.
Rozdelenie AI podľa rizikovosti
Nariadenie o AI rozdeľuje umelú inteligenciu na:
- zakázanú;
- vysokorizikovú;
- s miernym rizikom; a
- ostatnú, ktorej sa Nariadenie o AI netýka.
Jednotlivé kategórie si nižšie popíšeme.
Umelá inteligencia, ktorá je zakázaná
Nariadenie o AI považuje niektoré umelé inteligencie za natoľko nebezpečné pre práva a slobody osôb, že ich priamo zakazuje.
Zakázaná je umelá inteligencia (AI), ktorá:
- systém AI, ktorý využíva podprahové techniky, účelovo manipulatívne alebo klamlivé techniky, aby narušil správanie osôb, čo zapríčiní, že tieto osoby spravia rozhodnutie, ktoré by inak neprijali. Stačí pritom, že takéto ich zmanipulované rozhodnutie pravdepodobne spôsobiť značnú ujmu.V praxi pôjde o systémy AI, ktoré majú za cieľ ovplyvniť správanie osôb, aby spravili rozhodnutie, ktoré by bez tohto ovplyvnenia nespravili.V praxi si môžeme predstaviť chatbota na webovej stránke, ktorý manipuluje spotrebiteľa, aby si kúpil pre neho nevýhodný produkt alebo zvolil pre neho nevýhodnú službu.
- systém AI na tzv. „social scoring“ (v preklade „bodové hodnotenie“).Social scoring alebo aj systém sociálneho kreditu, je systém využívaný niektorými vládami alebo jednotlivcami na posudzovanie a vyhodnocovanie správania jednotlivcov alebo organizácií, ich finančnej zodpovednosti a/alebo celkovej dôveryhodnosti v spoločnosti.
V praxi ide o systém dát o jednotlivcoch alebo organizáciách, vrátane dát o ich správaní, právnych úkonoch, interakciách v spoločnosti, na sociálnych sieťach, finančnom statuse a pod. Na základe týchto dát sú jednotlivcom pripisované body a na základe dosiahnutých bodov sa určuje reputácia a zodpovednosť týchto jednotlivcov alebo organizácií, prípadne (ne)možnosť získať prístup k tovarom a službám.
- systém AI na posudzovanie rizika toho, či fyzická osoba spácha trestný čin, a to výlučne na základe profilovania fyzickej osoby alebo posúdenia jej osobnostných vlastností a charakteristík.
Zakázaný je systém AI, ktorého účelom je posúdenie alebo predpovedanie rizika, že fyzická osoba spácha trestný čin, ak je toto posúdenie alebo predpoveď založené na profilovaní alebo posúdení jej osobnostných vlastností alebo charakteristík. - systém AI, ktorý vytvára databázy na rozpoznávanie tváre, a to na základe necielenej extrakcie podôb tváre z internetov alebo kamerových systémov.Ide o systém AI, ktorý získava akékoľvek a všetky podoby tváre, ktoré nájde na internete alebo v kamerových záznamoch, aby vytvoril databázu na rozpoznávanie tváre.
- systém AI na rozpoznávanie emócií na pracovisku alebo vo vzdelávacích inštitúciách.V praxi ide o systém AI na odvodzovanie a rozpoznávanie emócií na základe biometrických údajov osôb (napr.: reč tela, mračenie, absencia úsmevu a iné).
- systém AI na biometrickú kategorizáciu osôb.Biometrickou kategorizáciou fyzických osôb sa rozumie ich rozdelenie na základe biometrických údajov s cieľom odvodiť ich rasu, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život alebo sexuálnu orientáciu.
- systém AI používaný na diaľkovú biometrickú identifikáciu v reálnom čase vo verejne prístupných priestoroch na účely presadzovania alebo vymáhania práva.V praxi ide o systém AI, ktorý v reálnom čase zbiera biometrické údaje osôb, za účelom ich identifikácie v reálnom čase, a to vo verejne prístupných priestoroch.
Tieto systémy AI sú zakázané preto, lebo predstavujú alebo môžu predstavovať vysoké riziko pre základné práva a slobody osôb, ktoré sa nachádzajú v únii. Ako príklad môžem vybrať právo na súkromie, do ktorého by bolo zasiahnuté biometrickou identifikáciou v reálnom čase vo verejne prístupných priestoroch.
Tieto systémy AI Nariadenie o AI zakazuje, pričom tento zákaz je účinný už od 02.02.2025. Preto žiadna osoba, spoločnosť alebo orgán verejnej moci nemôže tieto systémy AI vyvíjať, distribuovať, nasadzovať a ani používať.
Vysokoriziková umelá inteligencia (AI)
Ďalšou kategóriou umelej inteligencie (AI) je vysokoriziková.
Vysokoriziková umelá inteligencia (AI) predstavuje vysoké riziko pre práva a slobody osôb nachádzajúcich sa v Európskej únii. Preto pre jej používanie platia prísne pravidlá.
Nariadenie o AI považuje za vysokorizikovú umelú inteligenciu (AI):
- systém AI, ktorý tvorí bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné predpisy EÚ;
- systém AI na diaľkovú biometrickú identifikáciu;
- systém AI na rozpoznávanie emócií;
- systém AI na biometrickú kategorizáciu osôb;
- systém AI, ktorý sa má používa na prijatie fyzických osôb do vzdelávacích inštitúcií (škôl);
- systém AI, ktorý sa používa na hodnotenie vzdelávacích výstupov;
- systém AI, ktorý sa používa na účely posúdenia úrovne vzdelania, ktoré fyzická osoba získa alebo ku ktorému bude mať prístup;
- systém AI, ktorý sa používa na nábor alebo prijímanie zamestnancov do zamestnania, na analýzu a filtrovanie žiadostí o prácu;
- systém AI, ktorý sa používa na hodnotenie pracovnoprávnych podmienok, kariérneho postupu, ukončenie zamestnania;
- systém AI, ktorý sa používa na stanovenie úverovej bonity klienta alebo určenie jeho kreditného rizika;
- systém AI, ktorý sa používa na výpočet výšky poistného v prípade životného a zdravotného poistenia a iné.
Pre vývoj, dovoz do EÚ, distribúciu a nasadzovanie vysokorizikových umelých inteligencií (AI) platia prísne pravidlá. Tieto pravidlá sú rozdelené podľa toho, či ide o vývoj, dovoz, distribúciu alebo nasadzovanie umelej inteligencie (AI).
Ide napríklad o nasledovné povinnosti:
- zaviesť a aktualizovať systém riadenia rizík. Podstatou tohto systému je identifikácia prípadných rizík spojených s používaním umelej inteligencie (AI), zmierňovanie týchto rizík a kontrola celého systému riadenia rizík.
- systémy AI, ktoré umožňujú trénovanie modelov AI s údajmi, sa musia trénovať iba na kvalitných údajoch tak, ako sú vymedzené v Nariadení o AI;
- vypracovanie a aktualizácia kompletnej technickej dokumentácie o systéme AI;
- vysokorizikový systém AI musí automaticky zaznamenávať jednotlivé udalosti (logy), a to počas doby svojej životnosti;
- vysokorizikový systém AI musí byť natoľko transparentný, aby umožnil nasadzujúcim subjektom interpretovať výstupy a používať ich;
- nad vysokorizikovými systémami AI musí byť zabezpečený ľudský dohľad, vrátane účinných systémov a prostriedkov tohto dohľadu;
- vysokorizikové systémy AI musia byť presné, spoľahlivé a kyberneticky bezpečné.
Okrem týchto povinností musia vysokorizikové systémy AI prejsť procesom posudzovania zhody (interne alebo prostredníctvom notifikovanej osoby), byť označené značkou CE a zaregistrované.
Umelá inteligencia (AI) s miernym rizikom
Nariadenie sa vzťahuje aj na iné systémy AI, ktoré sú považované za systémy s miernym rizikom pre práva a slobody obyvateľov únie.
Ide o nasledovné systémy AI:
Systém AI určený na priamu interakciu s fyzickými osobami. Poskytovateľ tohto systému AI je povinný zabezpečiť, aby fyzické osoby, ktoré interagujú so systémom AI boli riadne a včas informované o tom, že interagujú so systémom AI a nie s človekom.
Systémy AI a systémy AI na všeobecné účely, ktoré generujú syntetický zvukový, obrazový, video alebo textový obsah. Poskytovatelia týchto systémov musia zabezpečiť, aby boli výstupy systému AI označené v strojovo čitateľnom formáte a zistiteľné ako umelo vygenerované alebo zmanipulované. Poskytovatelia zabezpečia, aby ich technické riešenia boli účinné, interoperabilné, odolné a spoľahlivé, pokiaľ je to technicky možné, s prihliadnutím na osobitosti a obmedzenia rozličných druhov obsahu, náklady na implementáciu a všeobecne uznávaný aktuálny stav vývoja, ktoré sa môžu odzrkadľovať v príslušných technických normách.
Subjekty, ktoré nasadzujú takéto systémy AI, ktoré vytvárajú depfake sú povinné zverejniť, že obsah bol umelo vytvorený alebo manipulovaný. Ak je obsah súčasťou zjavne umeleckého, kreatívneho, satirického, fiktívneho alebo analogického diela alebo programu, povinnosti týkajúce sa transparentnosti sa obmedzujú na zverejnenie existencie takéhoto vygenerovaného alebo zmanipulovaného obsahu, a to primeraným spôsobom, ktorý nebráni zobrazeniu diela a zážitku z neho.
Subjekty nasadzujúce systém AI, ktorý generuje alebo manipuluje text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu, zverejnia, že text bol umelo vygenerovaný alebo manipulovaný. Táto povinnosť sa neuplatňuje, ak obsah vygenerovaný AI prešiel procesom ľudskej alebo redakčnej kontroly a ak za uverejnenie obsahu nesie redakčnú zodpovednosť fyzická alebo právnická osoba.
Systém AI na rozpoznávanie emócií alebo systém biometrickej kategorizácie. Subjekty, ktoré tento systém nasadzujú, sú
povinné informovať o prevádzke systému fyzické osoby, ktoré sú mu vystavené, a spracúvajú osobné údaje v súlade s Nariadením GDPR a inými regulačnými nariadeniami.
Všetky informácie, ktoré sú poskytovatelia alebo nasadzujúce subjekty povinné poskytnúť fyzickým osobám, sa musia poskytnúť jasným a zrozumiteľným spôsobom pri prvej interakcií so systémom AI, alebo v momente, kedy je fyzická osoba vystavená tomuto systému.
Umelá inteligencia (AI), na ktorú sa Nariadenie o AI nevzťahuje
Ide o systémy AI, ktoré nemôžu zasiahnuť do práva a slobôd osôb nachádzajúcich sa v Európskej únii. Ide o systémy AI, ktoré sa používajú ako spamové filtre alebo o systémy AI v počítačových hrách.
Sumár
Nariadenie o AI delí systémy AI do nasledovných kategórií:
- zakázané systémy AI;
- vysokorizikové systémy AI;
- systémy AI s miernym rizikom;
- systémy AI s minimálnym rizikom, na ktoré sa Nariadenie o AI nevzťahuje.
Sme advokáti, ktorí sa rozumejú technológiám a umelej inteligencii. Právo má totiž budúcnosť, my v nej už pracujeme. Nasadzujete alebo vyvíjate umelú inteligenciu, prípadne inú technológiu, na ktorú ešte nie je paragraf? Kontaktujte nás a my Vám pomôžeme.
