Nariadenie o AI, teda nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie nadobudlo účinnosť 1. augusta 2024. Bude sa však plne uplatňovať až o dva roky neskôr, t.j. 2. augusta 2026 (s určitými výnimkami).

Dňa 02. augusta 2025 však nadobudli účinnosť ustanovenia o modeloch AI na všeobecné účely, ako aj ďalšie relevantné ustanovenia Nariadenia o AI.

Konkrétne:

• kapitola III oddiel 4 Nariadenia o AI;
• kapitola V Nariadenia o AI;
• kapitola VII Nariadenia o AI;
• kapitola XII Nariadenia o AI, s výnimkou článku 101; a
• článok 78 Nariadenia o AI.

SYSTÉM AI A MODEL AI NA VŠEOBECNÉ ÚČELY

Pre správne porozumenie povinností poskytovateľov v zmysle Nariadenia o AI si najskôr dovolíme bližšie priblížiť pojem systém AI a model AI. Dôležitý je totiž rozdiel medzi nimi, čo vyplýva aj z recitálu 97 Nariadenia o AI, podľa ktorého by sa pojem modely AI na všeobecné účely mal jasne vymedziť a oddeliť od pojmu systémy AI, aby sa umožnila právna istota.

Pokiaľ by sme chceli modely AI definovať ľudskou rečou, mohli by sme povedať, že model AI je určitý štatistický a matematický nástroj. Ide o tzv. „surovú umelú inteligenciu“, ktorú samo o sebe nemožno použiť, ale je potrebné ju zabudovať do systému AI, ktorý ju následne bude využívať.

Modely AI sú základnými komponentmi systémov AI. Vyžadujú si existenciu ďalších komponentov (napr. používateľské rozhranie) na to, aby sa z nich stali systémy AI. Z uvedeného dôvodu sú preto modely AI zvyčajne integrované do systémov AI a tvoria ich súčasť.

Príkladom modelu AI na všeobecné účely ja napríklad GPT-4, ktorý používa Chat GPT.

Systém AI zase predstavuje určitý softvérový produkt alebo službu, ktorá používa model AI na vykonávanie konkrétnej úlohy. Systémy AI sú postavené na jednom alebo viacerých modeloch AI, ktoré tvoria ich základ. Okrem modelov AI systémy AI obsahujú aj používateľské rozhranie, databázy, bezpečnostné prvky a ďalšie súčasti, ktoré sú nevyhnutné na ich využívanie v praxi.

Príkladom systému AI je napríklad ChatGPT (AI chatbot postavený na modele GPT-4) či napríklad prekladač DeepL.

POVINNOSTI PRE POSKYTOVATEĽOV SYSTÉMOV AI A MODELOV AI NA VŠEOBECNÉ ÚČELY

Ak ste osobou, ktorá sa v rámci svojej činnosť zaoberá tvorbou nového systému AI, ktorý je postavený na modely AI na všeobecné účely, považujete sa za poskytovateľa v zmysle Nariadenia o AI.

Poskytovateľom je teda fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý

• vyvíja systém AI alebo model AI na všeobecné účely; alebo ktorý
• si dáva vyvinúť systém AI alebo model AI na všeobecné účely a uvádza ho na trh alebo uvádza systém AI do prevádzky pod svojím vlastným menom alebo ochrannou známkou, či už za odplatu alebo bezodplatne.

Poskytovatelia systémov AI na všeobecné účely, ktoré tvoria základ systémov AI sú povinní dodržiavať všetky relevantné ustanovenia Nariadenia o AI. Výnimku však predstavujú modely AI na všeobecné účely, ktoré boli uvedené na trh pred 02. augustom 2025. Na modely AI na všeobecné účely podľa predchádzajúcej vety sa povinnosti stanovené Nariadením o AI začnú uplatňovať až od 02. augusta 2027.

Konkrétne povinnosti, ktoré sa na poskytovateľov vzťahujú sú napríklad:

Vypracovať a aktualizovať technickú dokumentáciu modelu AI, vrátane procesu jeho trénovania a testovania a výsledkov jeho hodnotenia, ktorá obsahuje aspoň informácie stanovené v prílohe XI Nariadenia o AI.

Pokiaľ ide o modely AI na všeobecné účely, technická dokumentácia by mala v závislosti od veľkosti a rizikového profilu modelu obsahovať napríklad všeobecný opis modelu AI na všeobecné účely, vrátane úloh, ktoré má model AI plniť, a typu a povahy systémov AI, do ktorých ho možno integrovať ako aj vrátane uplatniteľných politík prijateľného použitia, dátumu vydania a spôsobov jeho distribúcie či licencie.

Technická dokumentácia by mala obsahovať aj podrobný opis prvkov modelu AI, vrátane technických prostriedkov (napríklad návod na použitie) potrebných na integráciu modelu AI na všeobecné účely do systémov AI či informácii o údajoch použitých na trénovanie, testovanie a prípadne validáciu vrátane typu a pôvodu údajov a metodík spracovania;

Vypracovať, aktualizovať a sprístupňovať informácie a dokumentáciu poskytovateľom systémov AI, ktorí majú v úmysle integrovať model AI na všeobecné účely do svojich systémov AI. Informácie a dokumentácia podľa predchádzajúcej vety by mala poskytovateľom systémov AI umožniť dobre pochopiť spôsobilosti a obmedzenia modelu AI na všeobecné účely a obsahovať aspoň informácie stanovené v prílohe XII Nariadenia o AI.

Povinnosti podľa písm. a) a b) vyššie sa ale nevzťahujú na poskytovateľov modelov AI, ktoré sa vydávajú na základe bezplatnej licencie s otvoreným zdrojovým kódom, ktorá umožňuje prístup k modelu, jeho používanie, úpravu a distribúciu. Táto výnimka sa však nevzťahuje na modely AI na všeobecné účely so systémovými rizikami;

Zaviesť politiku dodržiavania autorského práva a s ním súvisiacich práv;

Vypracovať a zverejniť dostatočne podrobné zhrnutie obsahu použitého na trénovanie modelu AI na všeobecné účely podľa vzoru, ktorý poskytne Úrad pre AI; či napríklad

Poskytovatelia, ktorí sú usadení v tretích krajinách sú povinní pred sprístupnením modelu AI na všeobecné účely na trhu Európskej únie písomným splnomocnením vymenovať splnomocneného zástupcu usadeného v Európskej únii.

Nad rámec vyššie uvedených povinností musia poskytovatelia modelov AI zabezpečiť, aby systémy AI určené na priamu interakciu s ľuďmi boli navrhnuté a vyvinuté tak, aby dotknuté osoby vždy dostali informáciu, že interagujú so systémom AI.

Zároveň platí povinnosť poskytovateľov systémov AI a systémov AI na všeobecné účely, ktoré generujú syntetický zvukový, obrazový, video alebo textový obsah, zabezpečiť, aby výstupy týchto systémov AI boli označené v strojovo čitateľnom formáte a aby bolo možné jednoznačne určiť, že ide o umelo generovaný obsah.

Pri systémoch AI, ktoré generujú obrazový, zvukový alebo video obsah, ktorý je deepfake, musia subjekty nasadzujúce tieto systémy AI výslovne zverejniť, že daný obsah bol umelo vytvorený.

Všetky vyššie uvedené informácie sa majú dotknutým fyzickým osobám poskytnúť jasným a rozlíšiteľným spôsobom najneskôr v čase prvej interakcie alebo vystavenia sa systému AI. 

POVINNOSTI PRE POSKYTOVATEĽOV MODELOV AI NA VŠEOBECNÉ ÚČELY SO SYSTÉMOVÝM RIZIKOM

Pokiaľ ide o poskytovateľov modelov AI na všeobecné účely so systémovým rizikom, vzťahujú sa na nich nad rámec vyššie uvedených povinností poskytovateľov modelov AI na všeobecné účely aj ďalšie povinnosti stanovené Nariadením o AI.

Konkrétne, poskytovatelia modelov AI na všeobecné účely so systémovým rizikom sú povinní:

1. vykonávať hodnotenie modelu AI v súlade s normalizovanými protokolmi a nástrojmi odrážajúcimi aktuálny stav vývoja vrátane vykonávania a zdokumentovania testovania modelu na nepriateľské útoky s cieľom identifikovať a zmierniť systémové riziká;
2. posudzovať a zmierňovať prípadné systémové riziká vrátane ich zdrojov, ktoré môžu vyplývať z vývoja, uvádzania na trh alebo používania týchto modelov AI;
3. sledovať relevantné informácie o závažných incidentoch a možných nápravných opatreniach na ich riešenie, dokumentovať ich a oznamovať ich Úradu pre AI, prípadne vnútroštátnym orgánom;
4. zabezpečovať primeranú úroveň kybernetickobezpečnostnej ochrany pre model AI a jeho fyzickú infraštruktúru.

NOTIFIKUJÚCE ORGÁNY A NOTIFIKOVANÉ OSOBY

S účinnosťou od 02. augusta 2025 sa začínajú uplatňovať aj ustanovenia  Nariadenia o AI, ktoré upravujú notifikujúce orgány a notifikované osoby. Každý členský štát určí alebo zriadi aspoň jeden notifikujúci orgán, ktorý je zodpovedný za stanovenie a vykonávanie potrebných postupov na hodnotenie, určovanie a notifikáciu orgánov posudzovania zhody a ich monitorovanie.

Notifikujúci orgán je teda orgán určený príslušným členským štátom Európskej únie, medzi ktorého hlavné úlohy patrí notifikovať notifikované osoby.

Notifikovaná osoba je zase osobou zriadenou podľa práva členského štátu Európskej únie, ktorá má právnu subjektivitu. Môže ísť o ústav či laboratórium, ktoré bude vykonávať posudzovanie zhody v zmysle Nariadenia o AI.

Notifikované osoby musia spĺňať požiadavky stanovené Nariadením o AI, medzi ktoré patria požiadavky na organizáciu, riadenie kvality, zdrojov a postupov, ktoré sú potrebné na plnenie ich úloh, ako aj požiadavky na kybernetickú bezpečnosť.

Dôležité je podotknúť, že notifikované osoby musia mať takú organizačnú štruktúru a fungovať tak, aby sa zaručila nezávislosť, objektivita a nestrannosť ich činností.

ĎAĽŠIE ÚČINNÉ USTANOVENIA NARIADENIA O AI

Ďalšími ustanoveniami Nariadenia o AI účinnými od 02. augusta 2025 sú ustanovenia týkajúce sa kódexov postupov, ktoré majú pomáhať dodržiavať povinnosti vyplývajúce z Nariadenia o AI. Úrad pre AI môže vyzvať všetkých poskytovateľov modelov AI na všeobecné účely, aby kódexy postupov dodržiavali. Vo vzťahu k poskytovateľom modelov AI na všeobecné účely, ktoré nepredstavujú systémové riziko, možno dodržiavanie kódexov obmedziť na povinnosti stanovené v článku 53 Nariadenia o AI, pokiaľ títo poskytovatelia výslovne neprejavia záujem pripojiť sa k celému kódexu.

Dôležité je aj znenie článku 78 Nariadenia o AI, ktoré stanovuje, že Komisia, orgány dohľadu nad trhom a notifikované osoby a akékoľvek iné fyzické alebo právnické osoby podieľajúce sa na uplatňovaní Nariadenia o AI musia zachovávať dôvernosť informácií a údajov získaných pri vykonávaní svojich úloh a činností. Má sa tým zabezpečiť najmä ochrana duševného vlastníctva, dôverné obchodné informácie, obchodné tajomstvo či napríklad utajované informácie.

Jednotlivé členské štáty Európskej únie sú zároveň povinné oznámiť Komisii pravidlá pre ukladanie sankcií za porušenie Nariadenia o AI. Sú tak povinné urobiť najneskôr do 02. augusta 2026.

Nad rámec toho je každý členský štát povinný zriadiť alebo určiť aspoň jeden notifikujúci orgán a aspoň jeden orgán dohľadu nad trhom. V súčasnosti sa v  pripomienkovom konaní nachádza návrh zákona o organizácii štátnej správy v oblasti umelej inteligencie a o zmene a doplnení niektorých zákonov. Tento návrh zákona predložilo Ministerstvo investícií, regionálneho rozvoja a informatizácie Slovenskej republiky (MIRRI).

Ako všeobecný orgán dohľadu nad trhom a zároveň jednotné kontaktné miesto je v návrhu zákona označené práve Ministerstvo investícií, regionálneho rozvoja a informatizácie Slovenskej republiky. Okrem toho návrh zákona obsahuje aj určenie tzv. sektorových orgánov dohľadu nad trhom, pričom má ísť o Úrad na ochranu osobných údajov či Národný bezpečnostný úrad.

Na finálne znenie návrhu zákona si však ešte budeme musieť počkať.

Veríme, že sme sa Vám týmto článkom priniesli zaujímavé a relevantné informácie. V prípade, ak plánujete stať sa poskytovateľom systému AI alebo modelu AI na všeobecné účely, odporúčame Vám poradiť sa s advokátom.