Čo nás čaká v roku 2026 v oblasti umelej inteligencie | AI?

Od 02. februára 2025 sú účinné ustanovenia Nariadenia o AI (AI Act), ktoré regulujú umelú inteligenciu, a to konkrétne:

vzdelávanie v oblasti AI pre poskytovateľov AI (vývojár AI ale aj spoločnosť, ktorá si AI nechá vyrobiť) a subjekty nasadzujúce AI do svojich činností
zakázané AI alebo teda aj praktiky, na ktoré AI nesmieme používať (AI využívajúca podprahové, manipulatívne alebo klamlivé praktiky, AI na hodnotenie osôb podľa ich spoločenského správania – social scoring, AI na vytváranie databázy na rozpoznávanie tváre necielenou extrakciou podôb tváre a iné)

Od 02. augusta 2025 sú účinné ustanovenia Nariadenia o AI (AI Act) o povinnosti poskytovateľov AI na všeobecné účely (GPAI). Ide teda o model AI, ktorý j e schopný kompetentne vykonávať širokú škálu odlišných úloh a je trénovaný na veľkom množstve dát, napr. ako ChatGPT a iné podobné nástroje.

V roku 2026 nás pritom čaká účinnosť ďalších ustanovení Nariadenia o AI (AI Act).

Od 02. augusta 2026 budú účinné všetky ustanovenia pre vysokorizikovú AI (umelá inteligencia uvedená v prílohe III Nariadenia o AI). Ide napríklad o tieto:

systém AI na diaľkovú biometrickú identifikáciu
systém AI na biometrickú kategorizáciu podľa citlivých údajov
systém AI na rozpoznávanie emócií
systémy AI v kritickej infraštruktúre
systémy AI používané vo vzdelávaní (prijímanie na školy, vyhodnocovanie vzdelávacích výstupov, monitorovanie a zisťovanie zakázaného správania)
systémy AI používané v zamestnaní (prijímanie do zamestnania, filtrovanie žiadostí o zamestnanie, rozhodovanie o kariérnom raste alebo ukončení pracovného pomeru)
systémy AI na hodnotenie úverovej bonity a kreditného rizika
systémy AI na hodnotenie rizika a stanovenie cien životného a zdravotného poistenia

Od 02. augusta 2026 bude teda potrebné, aby každá vysokoriziková AI:

mala systém riadenia rizík
mala kvalitný súbor trénovacích, validačných a testovacích údajov
mala kompletnú technickú dokumentáciu podľa požiadaviek Nariadenia o AI (AI Act)
mala automatické zaznamenávanie udalostí (logy)
bola transparentná, teda aby jej výstupy boli vysvetliteľné
mala návod na použitie
mala nad sebou účinný ľudský dohľad
bola presná, spoľahlivá a mala dostatočnú úroveň kybernetickej bezpečnosti.

Subjekty, ktoré nasadzujú vysokorizikový systém AI majú pritom aj nasledovné povinnosti:

používať systém AI len v súlade s návodom na použitie
prideliť systému AI kvalifikovaný ľudský dohľad
monitorovať prevádzku systému AI
uchovávať automaticky generované logy
informovať zamestnancov, ak budú vystavení používaniu systému AI
vykonať posúdenie vplyvu na ochranu osobných údajov (ak sa ich táto povinnosť týka)
informovať dotknuté osoby, ak systém AI prijíma rozhodnutia alebo pomáha pri prijímaní rozhodnutí o týchto osobách.

V rámci EU Digital Omnibus, o ktorom som prednedávnom písal a ktorý bude de-regulačným balíčkom, sa pritom ráta s posunutím účinnosti pravidiel pre vysokorizikové systémy AI podľa Prílohy III z 02. augusta 2026 na 02. december 2027 a vysokorizikovej AI podľa Prílohy I z 02. augusta 2027 na 02. august 2028.

Všetky povinnosti, o ktorých som písal pri vysokorizikovej AI platia pre nové systémy AI uvedené na trh od 02. augusta 2026. Pre vysokorizikovýé systémy AI, ktoré boli uvedené na trh pred 02. augustom 2026 platí, že sa musia zosúladiť s požiadavkami Nariadenia o AI (AI Act) do 02. augusta 2030, ale to iba za predpokladu, že sa od 02. augusta 2026 nič nezmenilo v ich dizajne.

Okrem toho od 02. augusta 2026 sa budú uplatňovať aj osobitné povinnosti transparentnosti pre niektoré systémy AI:

ak systém AI priamo komunikuje s fyzickými osobami, tieto fyzické osoby musia byť vopred informované, že komunikujú so systémom AI
poskytovatelia systémov AI, ktoré generujú zvukový, obrazový, video alebo textový obsah zabezpečia, že výstupy budú označené ako umelo vygenerované alebo zmanipulované
subjekty, ktoré nasadzujú systém AI na rozpoznávanie emócií alebo biometrickej kategorizácie, musia informovať fyzické osoby, ktoré sú mu vystavené
subjekty, ktoré nasadzujú systém AI, ktorý generuje alebo manipuluje obrazový, zvukový alebo video obsah, ktorý predstavuje deep fake, musia zverejniť, že ide o umelo vytvorený alebo manipulovaný obsah
subjekty, ktoré nasadzujú systém AI, ktorý generuje alebo manipuluje text, ktorý slúži na informovanie verejnosti o záležitostiach verejného záujmu (štandardne média a novinári), musia zverejniť, že text bol umelo vygenerovaný alebo manipulovaný.

A teraz úprimne: Ste pripravení na nové povinnosti?! Ak potrebujete vedieť, aké sú Vaše povinnosti podľa Nariadenia o AI (AI Act), napíšte mi správu a spravíme Vám audit Vašej AI aj s povinnosťami, ktoré musíte plniť. Rovnako Vám nastavíme aj AI Framework – spôsob, ako bezpečne implementovať a vyvíjať AI vo Vašej spoločnosti.