Neprijateľné riziká a zákazy
Nariadenie ďalej definuje neprijateľné riziká, ktoré predstavujú vážnu hrozbu pre ľudské práva a bezpečnosť, a preto budú zakázané. Medzi tieto riziká patria:
- Kognitívna manipulácia správania jednotlivcov alebo zraniteľných skupín, napríklad hlasom aktivované hračky podporujúce nebezpečné správanie detí.
- Sociálne bodovanie: Klasifikácia osôb na základe ich správania, sociálno-ekonomického postavenia či osobných charakteristík.
- Biometrická identifikácia a kategorizácia osôb, vrátane systémov na diaľkovú biometrickú identifikáciu v reálnom čase (napríklad rozpoznávanie tváre).
Napriek tomu nariadenie stanovuje určité výnimky pre výnimočné prípady. Systémy diaľkovej biometrickej identifikácie „v reálnom čase“ budú povolené iba v závažných situáciách a v obmedzenom rozsahu. „Následná“ biometrická identifikácia, pri ktorej sa identifikácia uskutočňuje so značným časovým odstupom, bude povolená na vyšetrovanie závažných trestných činov, a to len na základe súdneho príkazu.
Registrácia vysokorizikových systémov
Vysokorizikové systémy, ktoré spadajú do jednej z ôsmich aktuálne existujúcich kategórií, musia byť zaregistrované v centrálnej databáze Európskej únie. Subjekty plánujúce využívať tieto systémy umelej inteligencie musia poskytnúť podrobné informácie o samotnom AI systéme, vrátane jeho účelu a spôsobu použitia. Prevádzkovatelia týchto systémov sa taktiež musia v tejto databáze zaregistrovať. Tento krok zabezpečuje transparentnosť a dohľad nad používaním vysokorizikových AI systémov, čím sa podporuje ich bezpečné nasadenie v praxi a ochrana práv občanov.
Regulácia autorských práv
Nové nariadenie reguluje aj oblasť autorských práv v súvislosti s vývojom modelov umelej inteligencie, najmä veľkých generatívnych modelov schopných vytvárať text, obrázky a iný obsah. Hoci je táto technológia inovatívna, prináša aj veľké výzvy týkajúce sa toho, ako sa tvorivý obsah generuje, distribuuje, používa a spotrebúva.
Vývoj a trénovanie takýchto systémov vyžaduje prístup k obrovskému množstvu dát, vrátane textov, obrázkov a ďalšieho obsahu, ktoré môžu byť chránené autorskými právami. Použitie takýchto diel si vyžaduje súhlas ich autorov, pokiaľ nie sú uplatnené špecifické výnimky a obmedzenia autorských práv. Smernica (EÚ) 2019/790 zaviedla tieto výnimky, ktoré za určitých podmienok umožňujú rozmnožovanie a extrakciu chránených diel na účely hĺbkovej analýzy textov a údajov (tzv. text and data mining). To umožňuje využívanie chráneného obsahu pre rozvoj umelej inteligencie, pričom sú súčasne rešpektované práva autorov a vlastníkov diel. Zároveň, ak autori nechcú, aby ich tvorivá činnosť bola súčasťou hĺbkovej analýzy, môžu tomu zabrániť vďaka týmto právnym reguláciám.
Globálny vplyv európskej regulácie
Ide o významný krok vpred v detailnej právnej regulácii umelej inteligencie, ktorý má potenciál ovplyvniť nielen fungovanie a bezpečnosť technológií v rámci EÚ, ale aj na globálnej úrovni. Európska únia týmto môže inšpirovať ďalšie krajiny a regióny k prijatiu podobných opatrení, čím sa zabezpečí globálne zodpovedný a bezpečný rozvoj umelej inteligencie.
Záver
Nové nariadenie o umelej inteligencii predstavuje zásadný krok smerom k vytvoreniu bezpečného a etického prostredia pre vývoj a využívanie AI technológií. Týmto spôsobom sa snaží zabezpečiť, aby prínosy umelej inteligencie boli maximálne využité, zatiaľ čo riziká sú minimalizované. Európska únia tak ukazuje svoju vedúcu úlohu v oblasti regulácie nových technológií, s dôrazom na ochranu práv jednotlivcov a podporu inovácií.
V prípade, ak máte záujem o právne služby súvisiace s AI, tak sa obráťte na našu advokátku kanceláriu a náš tím advokátov Vám rád poskytne užitočné informácie a právnu pomoc v oblasti AI.