AI Akt: poskytovateľ alebo nasadzujúci subjekt?

Lion Legalion lave1

AI Akt sa vzťahuje na každú firmu, podnikateľa aj orgán verejnej moci, ktorí používajú systém AI pri svojej činnosti. Rovnako sa vzťahuje aj na tých, ktorí systém AI vyvíjajú a uvádzajú na trh alebo do prevádzky, dovážajú alebo distribuujú.

Mimo AI Akt sa nachádza veľmi úzky okruh subjektov:

  • fyzické osoby, ktoré používajú systém AI na čisto osobné potreby;
  • subjekty, ktoré používajú systém AI výlučne na vojenské, obranné a národno-bezpečnostné účely, vedecký výskum a vývoj pred uvedením na trh; a
  • za určitých podmienok subjekty, ktoré vyvíjajú open source systémy.

Ak sa na vašu firmu AI Akt vzťahuje, rozsah povinností záleží na rizikovosti systému AI a postavenia vašej firmy – poskytovateľ AI, nasadzujúci subjekt, dovozca a distribútor.

V tomto článku sa pritom venujeme iba tomu, na koho sa AI Akt (Akt o umelej inteligencii, nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 vzťahuje, akú rolu má vaša firma alebo úrad, čo z nej vyplýva a kedy sa zmení. Termíny AI Aktu rozoberáme v samostatnom článku.

advokatska kancelaria

Na koho sa vzťahuje AI Akt

AI Akt sa vzťahuje na každého, kto používa systém AI a spadá pod poskytovateľa AI, nasadzujúci subjekt, dovozcu alebo distribútora.

Týka sa to však iba systému AI, teda strojového systému, ktorý zo vstupov odvodzuje výstupy, napríklad predpovede alebo obsah. Inak povedané, softvér, ktorý iba vykonáva pravidlá vopred určené človekom, systémom AI nie je. Preto si najprv overte, ktoré vaše nástroje sú systémami AI.

 

Kto zostáva mimo povinností AI Aktu

AI Akt stanovuje aj niekoľko výnimiek, na ktoré sa AI Akt nevzťahuje. Výnimky z pôsobnosti AI Akt sú však veľmi úzko nadefinované a väčšina firiem a úradov ich pri bežnej činnosti nesplní.

AI Akt sa pritom nevzťahuje:

  • na fyzické osoby pri čisto osobnej neprofesionálnej činnosti. Firma ani štátny úrad túto výnimku nesplní a živnostník iba vtedy, ak systém AI používa mimo svojej podnikateľskej činnosti.
  • na systémy AI používané výlučne na vojenské, obranné alebo národno-bezpečnostné účely, nie však pri ich civilnom použití;
  • na výskum a vývoj pred uvedením na trh, nie však na testovanie v reálnych podmienkach; a
  • na open source systémy, ak nejde o vysokorizikový systém, zakázanú praktiku alebo systém s povinnosťami transparentnosti.

Výnimkou naopak nie je systém AI s nízkym rizikom. AI Akt sa naň vzťahuje, len mu neukladá osobitné požiadavky, okrem povinnosti gramotnosti v oblasti AI.

 

Poskytovateľ alebo nasadzujúci subjekt: podľa čoho sa toto postavenie určuje a kedy sa mení

Poskytovateľ (provider) je subjekt, ktorý systém AI vyvíja alebo si ho nechá vyvinúť a uvádza ho na trh alebo do prevádzky pod svojím menom alebo ochrannou známkou.

Nasadzujúci subjekt (deployer) systém AI používa pod svojou kontrolou. V praxi si to môžeme predstaviť tak, že nasadzujúci subjekt si vyberie zo systémov AI, ktoré sú na trhu, a tento systém AI bez väčšej zmeny používa v rámci svojho podnikania alebo činnosti.

Nasadzujúci subjekt (deployer) používa systém AI „v rámci svojej právomoci“, čo podľa anglického znenia („under its authority“) neznamená právomoc štátu, ale používanie pod vlastnou kontrolou a na vlastnú zodpovednosť.

Európska komisia (ďalej len „Komisia“) uvádza nasledovný príklad: vývojár AI nástroja na triedenie životopisov je poskytovateľ, ale banka, ktorá ho používa, je nasadzujúci subjekt.

Podľa AI Aktu a aj v praxi sa pritom môže stať, že z nasadzujúceho subjektu sa stane poskytovateľ.

 

Kedy sa z nasadzujúceho subjektu stane poskytovateľ

Nasadzujúci subjekt sa môže stať poskytovateľom dvomi spôsobmi.

Prvý spôsob platí pre akýkoľvek systém AI. Kto hotový systém AI používa pod značkou poskytovateľa alebo dodávateľa, zostáva nasadzujúcim subjektom. Kto však cudzí model AI zabuduje, napríklad cez API, do vlastného produktu a ten uvedie na trh alebo do prevádzky pod svojím menom alebo ochrannou známkou, stane sa spravidla poskytovateľom.

Druhý spôsob vyplýva z čl. 25 AI Aktu a týka sa iba vysokorizikových systémov AI. Nasadzujúci subjekt sa stane poskytovateľom vysokorizikového systému, ak:

  • naň dá svoje meno alebo ochrannú známku;
  • vykoná na ňom podstatnú zmenu; alebo
  • zmení zamýšľaný účel systému AI, ktorý vysokorizikový nebol, tak, že sa stane vysokorizikovým.

Pri systéme AI, ktorý vysokorizikový nie je a ani sa ním nestane, čl. 25 AI Aktu postavenie nasadzujúceho subjektu nemení.

 

Firma môže byť zároveň poskytovateľ ako aj nasadzujúci subjekt

Firma môže byť zároveň poskytovateľ ako aj nasadzujúci subjekt, napríklad keď firma síce systém AI vyvinie ale využíva ho na vlastné použitie. V takom prípade potom firma plní povinnosti tak poskytovateľa ako aj nasadzujúceho subjektu.

Firma si preto musí svoje postavenie určiť pri každom systéme AI ako aj pri každej jeho zmene.

 

Dovozca a distribútor podľa AI Aktu

Firma, ktorá systém AI nevyvíja ani nepoužíva, ale predáva ho pod značkou výrobcu, je dovozcom alebo distribútorom a vlastné povinnosti má iba pri vysokorizikových systémoch AI.

Dovozca ho uvádza na trh v EÚ pod značkou osoby z tretej krajiny; distribútor ho ďalej sprístupňuje. Pri vysokorizikovom systéme obaja pred predajom overia najmä označenie CE a sprievodnú dokumentáciu a pri pochybnosti o zhode systém nepredajú.

Kto systém AI predáva pod vlastným menom, môže byť naopak jeho poskytovateľom, napríklad ak si ho dal vyvinúť. Pri vysokorizikovom systéme sa ním dovozca aj distribútor môžu stať aj tým istým spôsobom, ako nasadzujúci subjekt, čo sme písali vyššie.

 

Čo vám z príslušného postavenia vyplýva: povinnosti podľa postavenia firmy a rizika systému AI

Poznanie presného postavenia firmy je podľa AI Aktu kľúčové. To aké povinnosti musí firma plniť totiž závisí od dvoch vecí:

  • od postavenia firmy (poskytovateľ alebo nasadzujúci subjekt); a
  • od rizikovosti systému AI.

Niektoré povinnosti a zákazy pritom platia bez ohľadu na postavenie firmy a rizikovosť systému AI.

Povinnosť gramotnosti a zákaz niektorých praktík AI platia od 2. februára 2025, a to bez ohľadu na postavenie firmy a rizikovosť systému AI. To znamená, že každý poskytovateľ aj nasadzujúci subjekt musia tieto povinnosti plniť.

Opatrenia na podporu AI gramotnosti zamestnancov musí prijať každý poskytovateľ aj nasadzujúci subjekt.

Povinnosti transparentnosti podľa čl. 50 AI Aktu závisia od postavenia ako aj funkcie systému AI. Napríklad pri AI chatbote je povinnosťou poskytovateľa zabezpečiť, že AI chatbot bude dizajnovaný a aj vyvinutý tak, aby osoby, ktoré s chatbotom interagujú, boli vopred informované o tom, že komunikujú so systémom AI.

Naopak, nasadzujúci subjekt, ktorý používa systém AI na generovanie obrazového, zvukového alebo video obsahu, ktorý je deepfake, je povinný takýto výstup označiť, že bol vytvorený alebo upravený pomocou AI (tomu sme sa venovali v článku ako označiť AI obsah).

Povinnosti transparentnosti pritom platia od 2. augusta 2026.

Pri vysokorizikových systémoch AI, napríklad pri nábore zamestnancov alebo pri hodnotení úverovej bonity fyzických osôb, poskytovateľ zabezpečí najmä všetky dokumentačné povinnosti, ľudský dohľad, posúdenie zhody, označenie CE a systém riadenia kvality.

Nasadzujúci subjekt používa vysokorizikový systém AI podľa návodu na použitie a pod ľudským dohľadom, uchováva logy a informuje o ňom svojich zamestnancov. Pri hodnotení úverovej bonity musí aj nasadzujúci subjekt pred prvým použitím tohto systému posúdiť jeho vplyv na základné práva. Práve pri vysokorizikových systémoch AI sa teda povinnosti medzi poskytovateľom a nasadzujúcim subjektom líšia najviac a najviac záleží na tom, či sa firma nestane poskytovateľom.

Tieto povinnosti, vrátane čl. 25 AI Aktu sa uplatňujú až od 2. decembra 2027 a pri AI ako súčasti výrobkov až od 2. augusta 2028.

Za porušenie povinností transparentnosti určuje AI Akt hornú hranicu pokuty až do 15 miliónov eur alebo 3 % celosvetového ročného obratu podľa toho, čo je vyššie. Pri malých a stredných podnikoch podľa toho, ktorá suma je nižšia. Rovnaká výška pokuty bude platiť aj za porušenie povinností pri vysokorizikových systémoch AI.

 

Zmena postavenia podľa čl. 25 AI Aktu

Ak sa naplní jedna z troch podmienok podľa čl. 25 AI Aktu, firma preberá pri vysokorizikovom systéme AI všetky povinnosti poskytovateľa.

Nasadzujúci subjekt sa stane poskytovateľom vysokorizikového systému AI, ak:

  • umiestni svoje meno alebo ochrannú známku na vysokorizikový systém AI, ktorý už bol uvedený na trh alebo do prevádzky;
  • vykoná podstatnú zmenu vysokorizikového systému AI, ktorý už bol uvedený na trh alebo už bol uvedený do prevádzky takým spôsobom, že tento systém zostane vysokorizikovým systémom AI podľa čl. 6 AI Aktu; alebo
  • zmení zamýšľaný účel systému AI, vrátane systému AI na všeobecné účely, ktorý nebol klasifikovaný ako vysokorizikový a už bol uvedený na trh alebo do prevádzky, a to takým spôsobom, že sa z tohto systému AI stane vysokorizikový systém AI v súlade s čl. 6 AI Aktu.

Teraz sa pozrieme na jednotlivé podmienky bližšie.

Vlastné meno alebo ochranná známka. Nasadzujúci subjekt sa stane poskytovateľom ak:

  • na vysokorizikový systém AI;
  • ktorý už bol uvedený na trh alebo do prevádzky;
  • umiestni svoje meno alebo ochrannú známku.

AI Akt tu síce pripúšťa zmluvu medzi dodávateľom vysokorizikového systému AI a nasadzujúcim subjektom, v ktorej si zmluvné strany definujú svoje postavenie a povinnosti inak, no na účely tohto ustanovenia AI Aktu nie je zmluva záväzná. Nasadzujúci subjekt sa tak napriek zmluvným ustanoveniam môže stať poskytovateľom vysokorizikového systému AI.

Zmluvné vzťahy preto odporúčame nastaviť s advokátom.

Podstatná zmena. Ide o zmenu vysokorizikového systému AI, ktorá nastala po uvedení tohto systému na trh alebo do prevádzky. Nestačí však akákoľvek zmena – takáto zmena musí byť podstatná.

Podstatnou zmenou sa pritom rozumie zmena vysokorizikového systému AI po jeho uvedení na trh alebo do prevádzky, ktorú poskytovateľ v počiatočnom posudzovaní zhody nepredpokladal ani neplánoval a ktorá môže ovplyvniť súlad systému AI s požiadavkami stanovenými v kapitole III oddiele 2 AI Aktu pre vysokorizikové systémy AI. Podstatnou zmenou je aj zmena, ktorá vedie k zmene zamýšľaného účelu.

Podstatnou zmenou je tak zmena, ktorá môže ovplyvniť súlad vysokorizikového systému AI s AI Aktom (napríklad zmena operačného systému alebo softvérovej architektúry) ale aj zmena zamýšľaného účelu. Podstatnou zmenou je aj zmena úrovne presnosti, odolnosti alebo kybernetickej bezpečnosti systému AI, či už zámerne, alebo ako nepredvídaný vedľajší dôsledok, významné zmeny architektúry modelu, opätovné trénovanie na nových alebo zásadne odlišných údajoch, alebo zmena rozhodovacej logiky spôsobom, ktorý ovplyvňuje výstupy a akákoľvek zmena, ktorá má vplyv na súlad vysokorizikového systému AI s konkrétnymi požiadavkami podľa AI Aktu, napríklad požiadavkami na transparentnosť, ľudský dohľad alebo kvalitu údajov.

Zmena zamýšľaného účelu. Nakoniec, nasadzujúci subjekt sa môže stať poskytovateľom aj vtedy, ak zmení zamýšľaný účel systému AI, vrátane systému AI na všeobecné účely.

Zamýšľaný účel je pritom použitie, ktoré systému AI určil poskytovateľ v návode, v propagačných materiáloch a v technickej dokumentácii.

Nasadzujúci subjekt sa stane poskytovateľom, ak sú splnené tieto podmienky:

  • nasadzujúci subjekt zmenil zamýšľaný účel systému AI alebo systému AI na všeobecné účely;
  • tento systém AI nebol klasifikovaný ako vysokorizikový systém AI;
  • tento systém AI už bol uvedený na trh alebo do prevádzky; a
  • zmenou zamýšľaného účelu došlo k tomu, že systém AI sa stal vysokorizikovým systémom AI v súlade s čl. 6 AI Aktu.

Ilustračný príklad

Nebanková spoločnosť začne všeobecný systém AI, ktorý dodávateľ na tento účel neurčil, používať na hodnotenie úverovej bonity fyzických osôb. Ide o vysokorizikové použitie, preto sa nebanková spoločnosť stane od 2. decembra 2027 poskytovateľom vysokorizikového systému AI.

Napriek nášmu výkladu však existujú aj určité nejasnosti, pretože výklad nie je ustálený. Nie je totiž jasné, či stačí samotné použitie systému AI na nový, vysokorizikový účel, alebo musí firma systém AI aj upraviť, či na nový účel ponúkať.

Ak sa naplní ktorákoľvek podmienka podľa čl. 25 AI Aktu, pôvodný poskytovateľ prestáva byť poskytovateľom nového systému AI. Novému poskytovateľovi však musí odovzdať technickú dokumentáciu, informácie o známych obmedzeniach a technický prístup. Ak však pôvodný poskytovateľ jasne uviedol, že sa jeho systém AI nemá meniť na vysokorizikový, nemusí s novým poskytovateľom spolupracovať. Kto systém AI napriek takému upozorneniu použije na vysokorizikový účel, prípadné povinnosti poskytovateľa teda musí splniť bez pomoci pôvodného poskytovateľa.

 

Ako si určiť postavenie vo vlastnej firme

Postavenie firmy si určíte v štyroch krokoch. Kroky odporúčame zveriť osobe, ktorú tým poverí vedenie firmy alebo napríklad compliance officerovi:

  • spíšte AI nástroje, ktoré firma vyvíja, predáva alebo používa, a overte, či ide o systémy AI;
  • pri každom systéme AI určte svoju rolu a rizikovú kategóriu;
  • pred každou integráciou cudzieho modelu, zmenou značky, úpravou alebo novým použitím systému AI preverte, či sa nestanete poskytovateľom najmä podľa čl. 25 AI Aktu; a
  • v zmluvách s dodávateľmi upravte informácie, technické prístupy a pomoc. Pri vysokorizikových systémoch AI vyžaduje AI Akt písomnú dohodu a jej porušenie AI Akt dokonca aj sankcionuje. Zmluvu je preto potrebné uzavrieť najneskôr do 2. decembra 2027.

 

Časté otázky

 

Vzťahuje sa AI Akt aj na malú firmu alebo živnostníka?

Áno. Výnimka pre osobné použitie platí iba pre fyzické osoby pri čisto osobnej neprofesionálnej činnosti, nie pre živnostníka pri podnikaní ani pre firmu.

Vzťahuje sa AI Akt aj na firmu mimo EÚ?

Áno, ak firma mimo EÚ uvádza systém AI na trh v EÚ alebo ak sa výstup jej systému AI používa v EÚ. Pri vysokorizikových systémoch AI musí poskytovateľ písomne splnomocniť zástupcu v EÚ, ktorý v jeho mene plní povinnosti podľa AI Aktu.

Týka sa AI Akt aj štátnych orgánov a obcí?

Áno. Orgán verejnej moci sa výslovne uvádza v definícii poskytovateľa aj nasadzujúceho subjektu v AI Akte. Mimo zostáva najmä výlučne vojenské, obranné alebo národno-bezpečnostné použitie, prípadne vedecký výskum. Pri väčšine vysokorizikových systémov AI z prílohy III musí orgán navyše posúdiť vplyv na základné práva.

Sme nasadzujúcim subjektom, ak zamestnanci používajú nástroje AI bez nášho vedomia?

Výklad zatiaľ nie je ustálený. Nasadzujúcim subjektom je totiž ten, kto systém AI používa pod svojou kontrolou. No či je ním firma aj pri systéme AI, o ktorom nevie, AI Akt a ani Komisia zatiaľ nespresnili. Spresniť to môže usmernenie Komisie alebo prax dozorného orgánu. Podľa nášho výkladu a z dôvodu právnej istoty považujeme takúto firmu za nasadzujúci subjekt. Aby sa firma vyhla neistote, reálne poznala svoje postavenie, rizikovosť svojich systémov AI a vedela určiť svoje povinnosti, odporúčame jej prijať AI governance smernicu.

Vaša rola pri každom nástroji AI

Pomôžeme vám zmapovať nástroje AI vo firme, určiť pri každom vašu rolu a rizikovú kategóriu a pripraviť sa na povinnosti, ktoré z nich vyplývajú.

 

Použité zdroje

More Law
Less problems