Aktuálnym trendom pri využívaní umelej inteligencie (AI) sa čoraz častejšie stáva automatizované rozhodovanie. Teda rozhodovanie o jednotlivcoch za pomoci umelej inteligencie (AI) alebo iných technických prostriedkov. Takéto rozhodovanie šetrí čas a aj náklady firiem.
Za automatizované rozhodovanie považujeme situáciu, kedy dochádza k rozhodovaniu o fyzických osobách a ich právach automatizovane – teda prostredníctvom softvéru alebo umelej inteligencie (AI).
Je to teda proces, pri ktorom sa umelá inteligencia (AI) spolupodieľa na rozhodovaní o určitých otázkach, alebo úplne sama o určitej otázke rozhodne.
S automatizovaným rozhodovaním sa v praxi často stretávame na HR oddeleniach. HR oddelenia, ktoré prijímajú stovky žiadostí o zamestnanie, často používajú umelú inteligenciu (AI) na ich roztriedenie. Umelá inteligencia (AI) na základe vopred daných požiadaviek uchádzačov najprv vyprofiluje a roztriedi do príslušných kategórií – vhodný/nevhodný uchádzač.
Na základe tohto roztriedenia umelá inteligencia (AI) alebo iný softvér rozhodne, ktorých uchádzačov pozvať na pracovný pohovor a ktorých naopak nie. Presne tu došlo k automatizovanému rozhodnutiu o uchádzačoch, ktorí budú pozvaní na pracovný pohovor, ako aj o uchádzačoch, ktorí nebudú pozvaní na pracovný pohovor.
Obdobne to funguje aj pri uzatváraní zmlúv, kedy umelá inteligencia (AI) vyprofiluje potenciálneho zákazníka alebo obchodného partnera a následne posúdi a rozhodne, či s týmto zákazníkom alebo partnerom uzavrieť zmluvu, prípadne za akých podmienok.
Automatizované rozhodovanie prostredníctvom umelej inteligencie (AI) je síce jedným z mnohých legálnych spôsobov jej využitia, avšak podlieha určitým pravidlám a podmienkam Nariadenia GDPR.
Čo presne je automatizované rozhodovanie?
Za automatizované rozhodovanie sa považuje prijímanie akýchkoľvek rozhodnutí prostredníctvom technických prostriedkov. Ako príklad môžem uviesť prijímanie rozhodnutí prostredníctvom umelej inteligencie (AI) alebo špecifického softvéru, a to za účasti človeka alebo aj bez účasti človeka.
Automatizované rozhodovanie za účasti človeka je také automatizované rozhodnutie, pri ktorom toto rozhodnutie ešte skontroluje alebo preverí človek. Takéto automatizované rozhodovanie za účasti človeka vyžaduje splnenie základných podmienok podľa Nariadenia GDPR (dodržiavať zásady spracúvania, mať právny základ spracúvania, rešpektovať práva dotknutých osôb a iné). Pre túto formu automatizovaného rozhodovania nie sú teda určené osobitné podmienky.
Aby sme však mohli hovoriť o automatizovanom rozhodovaní s účasťou človeka, úloha tohto človeka nemôže byť obmedzená len na vykonávanie dohľadu. Úloha skutočného človeka musí spočívať v preskúmaní automatizovaného rozhodnutia, človek musí mať možnosť zobrať do úvahy aj iné faktory a mať tak skutočný vplyv na výsledok rozhodnutia.
Na druhej strane, výlučne automatizované rozhodnutie je rozhodnutie vykonané prostredníctvom technických prostriedkov bez účasti skutočného človeka. Na výlučne automatizované rozhodovanie sa pritom vzťahujú prísnejšie podmienky, najmä ak môže takéto rozhodnutie mať vplyv na právne postavenie dotknutej osoby, alebo ju podobne významne ovplyvňuje.
Podľa usmernení EDPB má automatizované rozhodnutie vplyv na právne postavenie dotknutej osoby, ak môže ovplyvniť jej právne postavenie, prípadne má vplyv na jej práva vyplývajúce napríklad zo zmluvy.
Príklady, kedy má rozhodnutie vplyv na právne postavenie dotknutej osoby:
- ak je jeho dôsledkom zrušenie zmluvy;
- ak je jeho výsledkom rozhodnutie o nároku na sociálnu alebo inú dávku;
- ak je jeho výsledkom odmietnutie vstupu do krajiny alebo odmietnutie občianstva.
Príklady, kedy má rozhodnutie významný vplyv na dotknutú osobu:
- ak je jeho dôsledkom neuzatvorenie zmluvy;
- ak je jeho výsledkom personalizovaný obsah zmluvy;
- ak je jeho dôsledkom odmietnutie poskytnúť službu (úver, pôžička, poistenie iné služby ale aj tovary);
- ak má rozhodnutie vplyv na prijatie do zamestnania, do vzdelávacích inštitúcií;
- ak má rozhodnutie vplyv na poskytovanie zdravotných služieb a zdravotnej starostlivosti.
V prípade, že ide o výlučne automatizované rozhodovanie prostredníctvom umelej inteligencie (AI) alebo špecifického softvéru, ktoré má právne alebo podobné účinky na jednotlivca, uplatnia sa špecifické pravidlá vyplývajúce z čl. 22 Nariadenia GDPR.
Požiadavky na výlučne automatizované rozhodovanie prostredníctvom umelej inteligencie (AI)
Podľa čl. 22 Nariadenia GDPR platí základné pravidlo, že výlučne automatizované rozhodovanie o jednotlivcoch s právnymi účinkami sa zakazuje, pokiaľ nie je splnená jedna z 3 výnimiek uvedených v tomto článku.
Výlučne automatizované rozhodovanie umelou inteligenciou (AI), ktoré má právne alebo obdobné účinky na jednotlivcov je povolené len v 3 prípadoch:
- ak je to nevyhnutné pre plnenie zmluvných povinností alebo uzatvorenie zmluvy;
- ak je to povolené právom Európskej únie alebo právom členského štátu; alebo
- ak je založené na výslovnom súhlase jednotlivca.
Plnenie zmluvných povinností: Výlučne automatizované rozhodovanie o dotknutých osobách je možné vykonávať, ak je to nevyhnutné na plnenie zmluvy alebo na jej uzatvorenie.
Podstatným pojmom je pritom slovo „nevyhnutné.“
Prevádzkovateľ umelej inteligencie (AI) musí teda preukázať, že automatizované rozhodovanie je nevyhnutné a súčasne objektívne nie sú k dispozícií iné účinné a menej škodlivé spôsoby ako dosiahnuť sledovaný cieľ.
Z praxe si môžeme predstaviť HR oddelenie spoločnosti, ktoré dostáva niekoľko stoviek životopisov naraz. Nie je pritom objektívne možné, aby zamestnanci HR oddelenia zodpovedne prešli všetky životopisy všetkých uchádzačov a vylúčili všetkých nevhodných uchádzačov. V praxi sa tiež stretávame s finančnými inštitúciami alebo obdobnými subjektmi, ktorí dostávajú stovky alebo tisíce žiadostí o poskytnutie financovania, poistenia alebo iných produktov. Nie je pritom objektívne možné zodpovedne posúdiť všetky žiadosti len prostredníctvom zamestnancov.
V takýchto prípadoch pomáha práve výlučne automatizované rozhodovanie napríklad prostredníctvom umelej inteligencie (AI) alebo iného softvéru. Samozrejme za predpokladu, že neexistuje iný účinný a menej škodlivý spôsob riešenia.
Povolenie vyplývajúce z práva Európskej únie alebo členského štátu: Výlučne automatizované rozhodovanie umelou inteligenciou (AI) je možné vykonať aj v prípade, ak to umožňuje právo Európskej únie alebo členského štátu. Takéto ustanovenie práva však musí poskytovať aj dostatočné záruky ochrany práv jednotlivcov.
Výslovný súhlas: Poslednou výnimkou je výslovný súhlas dotknutej osoby s výlučne automatizovaným rozhodovaním prostredníctvom umelej inteligencie (AI).
Výslovný súhlas predstavuje vyšší štandard bežného súhlasu podľa Nariadenia GDPR. Tento vyšší štandard vyžaduje, aby dotknutá osoba poskytla výslovné vyhlásenie o súhlase.
V praxi sa výslovný súhlas udeľuje štandardne písomne tak, že dotknutá osoba súhlas vytlačí, podpíše a odovzdá prevádzkovateľovi umelej inteligencie (AI), prípadne ho naskenuje a pošle emailom alebo vytvorí email, v ktorom poskytne výslovný súhlas.
Osobitnú situáciu predstavuje výlučne automatizované rozhodovanie o zdravotných údajoch dotknutých osôb (alebo iných osobitných kategóriách osobných údajov). V takom prípade je na spracúvanie osobných údajov okrem týchto 3 výnimiek potrebné, aby prevádzkovateľ umelej inteligencie (AI) disponoval aj osobitným právnym základom podľa článku 9 Nariadenia GDPR. Takýmto osobitným právnym základom je buď výslovný súhlas so spracúvaním takýchto údajov, alebo existencia nevyhnutného dôvodu významného verejného záujmu.
Dotknuté osoby, o ktorých sa rozhoduje výlučne automatizovane, musia byť o tomto spôsobe rozhodovania informované. Okrem toho je prevádzkovateľ umelej inteligencie (AI) povinný prijať primerané záruky na ochranu ich práv.
Primerané záruky
Medzi primerané záruky, ktoré Nariadenie GDPR priamo uvádza patrí:
- právo na ľudský zásah – teda právo nechať rozhodnutie preskúmať človekom;
- právo vyjadriť svoje stanovisko k rozhodnutiu založenom výlučne na automatizovanom spracúvaní umelou inteligenciou; a
- právo napadnúť toto rozhodnutie s reálnou možnosťou dosiahnuť jeho zmenu.
Okrem týchto záruk môže prevádzkovateľ umelej inteligencie (AI) prijať aj iné vhodné záruky, ako napríklad:
- kontrola kvality umelej inteligencie (AI) a jej algoritmov, aby sa predišlo nespravodlivým alebo diskriminačným rozhodnutiam;
- algoritmický audit vykonaný ideálne tretími stranami;
- využívanie techník anonymizácie a pseudonymizácie.
Cieľom týchto opatrení je zabezpečenie a kontrola spravodlivosti rozhodovania bez diskriminácie a predsudkov.
K tomu sa častokrát vyžadujú interné predpisy o ľudskom zásahu, procese preskúmania rozhodnutia človekom, prijímanie sťažností dotknutých osôb a pod.
Sumár:
Automatizované rozhodovanie s ľudskou asistenciou je také, kde človek skutočne zasahuje do procesu rozhodovania. Tento typ rozhodovania je povolený.
Výlučne automatizované rozhodovanie (bez ľudského zásahu), ktoré má právne alebo podobné účinky na jednotlivcov, je vo všeobecnosti zakázané. Povolené je len, ak je splnená aspoň 1 z troch podmienok podľa čl. 22 Nariadenia GDPR.
Prevádzkovateľ umelej inteligencie (AI), ktorý používa výlučne automatizované rozhodovanie, ktoré má právne alebo podobné účinky na dotknuté osoby, je povinný zaviesť primerané opatrenia na ochranu dotknutých osôb – ako právo na ľudský zásah, právo sa vyjadriť a právo napadnúť výlučne automatizované rozhodnutie a dosiahnuť jeho zmenu (ak sú na to objektívne dôvody).
Kontaktujte nás a spoločne sa pozrieme na to, či používanie umelej inteligencie vo vašej spoločnosti zodpovedá všetkým požiadavkám Nariadenia GDPR a Nariadenia o AI.
