Keďže sa umelá inteligencia (AI) čoraz častejšie využíva v rôznych odvetviach, prináša so sebou množstvo právnych a etických otázok. Od spracúvania osobných údajov, ich profilovania až po automatizované rozhodovanie, umelá inteligencia má potenciál zásadne ovplyvniť nielen efektivitu podnikov, ale aj práva jednotlivcov. Práve pri ochrane osobných údajov môžu systémy umelej inteligencie zasiahnuť do základného práva na súkromie.
Ako funguje profilovanie a automatizované rozhodovanie?
Profilovanie je proces, pri ktorom umelá inteligencia analyzuje osobné údaje dotknutých osôb s cieľom vytvárať predikcie alebo hodnotenia ich správania, preferencií či schopností. Typickým príkladom je triedenie životopisov na oddeleniach ľudských zdrojov (HR), kde sa umelá inteligencia používa na výber kandidátov na otvorené pozície. V niektorých prípadoch umelá inteligencia automaticky vyradí určité skupiny kandidátov na základe predchádzajúcich skúseností s podobnými profilmi, čo môže viesť k diskriminácii a nespravodlivému rozhodovaniu
Automatizované rozhodovanie je proces, kde rozhodnutie o určitej otázke vykoná výlučne umelá inteligencia bez zásahu človeka. Príkladom môže byť automatické odmietnutie žiadosti o úver na základe algoritmického hodnotenia klienta alebo výlučné rozhodovanie umelej inteligencii o prijatí kandidátov do zamestnania. Takéto rozhodnutia však môžu mať zásadný vplyv na základné práva dotknutých osôb, najmä ak neexistuje možnosť ľudského zásahu alebo kontroly.
Právne aspekty profilovania a automatizovaného rozhodovania
Podľa článku 22 nariadenia GDPR majú jednotlivci právo nebyť predmetom výlučne automatizovaných rozhodnutí, ktoré by mali na nich právne alebo iné podobne významné účinky. To znamená, že ak je výsledkom automatizovaného rozhodnutia odmietnutie služby, zmluvy alebo zamestnania, dotknutá osoba má právo vyžadovať ľudský zásah.
Z tohto pravidla však platia aj nasledovné výnimky:
- Ak je automatizované rozhodnutie nevyhnutné na splnenie zmluvných povinností, ako napríklad v predzmluvnej fáze.
- Ak má osoba poskytnutý výslovný súhlas s automatizovaným rozhodovaním, čo sa často vzťahuje na procesy, kde je dôležité posúdenie určitých rizík alebo individuálnych vlastností, ako sú napríklad pracovné schopnosti.
Tieto výnimky sú však prísne regulované a automatizované rozhodovanie, ktoré ovplyvňuje osobitné kategórie údajov (napríklad zdravotný stav alebo rasový pôvod), vyžaduje výslovný súhlas dotknutej osoby.
Umelá inteligencia v oblasti ľudských zdrojov: Automatizácia náborových procesov
V mnohých firmách sa umelá inteligencia už bežne používa na nábor nových zamestnancov, vrátane triedenia životopisov a výberu kandidátov. Tento proces je síce efektívny, ale môže viesť k diskriminácii, ak je umelá inteligencia trénovaná na nevhodných datasetoch. Napríklad, ak bola umelá inteligencia trénovaná na údajoch, ktoré obsahovali genderové alebo rasové predsudky, môže to viesť k nesprávnym rozhodnutiam a diskriminačným praktikám, ktoré by boli v rozpore s právnymi predpismi.
Podľa nariadenia GDPR musí byť každý proces profilovania založený na relevantných údajoch a musí zohľadňovať princípy férovosti a transparentnosti. Obdobné pravidlá platia aj podľa nariadenia o AI. Prevádzkovatelia osobných údajov sú povinní poskytnúť dotknutým osobám jasné informácie o tom, akým spôsobom sú ich údaje spracovávané a ako ovplyvňujú rozhodovacie procesy.
