Od 02. augusta 2026 sa rozširujú povinnosti súvisiace s používaním AI. Od tohto dátumu zavádza AI Akt (alebo aj AI Act) povinnosť označiť obsah, ktorý bol vytvorený alebo upravený AI. Čo to znamená v praxi? Jednoducho každý výstup, ktorý bol vytvorený alebo upravený AI, musí byť označený, že bol vytvorený alebo upravený AI.
EÚ k tejto povinnosti práve pripravuje Code of Practice – Kódex správania, ktorý bližšie popisuje, ako si túto povinnosť splniť.
Povinnosť označiť obsah vytvorený alebo upravený AI vyplýva z čl. 50 AI Aktu, ktorý vstupuje do platnosti už 02. augusta 2026, spolu so povinnosťami pre vysokorizikovú AI podľa Prílohy III AI Aktu (AI používaná v zamestnaní, vzdelávaní, pri prístupe k službám a pod.).
Povinnosť označiť obsah vytvorený AI sa týka tak poskytovateľov systémov AI (osoba, ktorá AI vyvíja ale aj ktorá si ju nechá vyvinúť) ako aj nasadzujúce subjekty (firmy a štátne orgány, ktoré AI používajú pri svojej činnosti).
Poskytovatelia a nasadzujúce subjekty však nemajú rovnaké povinnosti. Poďme sa pozrieť teda pozrieť, koho sa táto povinnosť dotkne a ako.
Povinnosti poskytovateľov AI
Poskytovatelia AI sú povinný podľa AI Aktu označiť obsah vytvorený alebo upravený AI strojovo čitateľným spôsobom a zabezpečiť overenie pôvodu obsahu.
Podľa Kódexu správania musia poskytovatelia AI zabezpečiť:
Viacvrstvové označovanie obsahu:
- Kódex správania vyžaduje viacvrstvový prístup, ktorý kombinuje minimálne dve vrstvy strojovo čitateľného označovania
- tieto vrstvy zahŕňajú digitálne podpísané metadáta (pre formáty, ktoré ich podporujú) a nepostrehnuteľné vodoznaky uložené priamo v obsahu
- pre textové výstupy sa zase navrhujú alternatívne metódy, ako je digitálne podpísaný manifest alebo voliteľné využitie logovania (záznamov).
Detekcia označeného obsahu:
- poskytovatelia musia zabezpečiť, aby bol nimi generovaný obsah detekovateľný. Kódex vyžaduje poskytnutie bezplatných rozhraní (API alebo používateľské rozhrania) pre overovateľov, ako sú orgány trhového dohľadu, výskumníci či médiá
- dôraz sa kladie na to, aby boli výsledky detekcie zrozumiteľné aj pre laikov a prístupné osobám so zdravotným postihnutím.
Kvalitatívne požiadavky na technické riešenia:
- všetky riešenia musia vyvážene spĺňať štyri kritériá AI Aktu ako účinnosť, interoperabilitu, robustnosť a spoľahlivosť
- robustnosť – odolnosť voči bežným úpravám (ako orezanie alebo zmena formátu) aj voči úmyselným útokom
- interoperabilita je kľúčová pre fungovanie naprieč rôznymi platformami a distribučnými kanálmi, čo si vyžaduje prijatie otvorených štandardov.
Testovanie, overovanie a súlad:
- poskytovatelia musia vytvoriť framework pre súlad s týmito ustanoveniami, pravidelne testovať svoje riešenia v reálnych podmienkach a spolupracovať s orgánmi dohľadu
- súčasťou je aj povinnosť primeraného zaškolenia personálu zodpovedného za dizajn a vývoj systémov AI.
Takáto transparentnosť je nevyhnutná pre udržanie integrity informačného ekosystému a ochranu pred dezinformáciami, podvodmi a manipuláciou. Kódex je koncipovaný ako praktický nástroj, ktorý má byť primeraný aj pre malé a stredné podniky (SME), pričom umožňuje postupné zavádzanie noriem podľa technologického pokroku.
Dôležitá je takisto aj spolupráca v rámci dodávateľského reťazca, kde poskytovatelia modelov AI (upstream) pomáhajú následným poskytovateľom systémov AI (downstream) plniť ich povinnosti v oblasti označovania.
Povinnosti nasadzujúcich subjektov
Okrem povinností pre poskytovateľov AI, AI Akt upravuje aj povinnosti firiem a štátnych orgánov, ktoré AI používajú pri svojej činnosti.
AI Akt tu stanovuje pravidlá len pre systémy AI, ktoré generujú alebo manipulujú deepfakes a určitý text.
Tieto povinnosti sa týkajú len nasledovného obsahu:
Deepfakes: obrazy, zvukové záznamy alebo videá, ktoré sa podobajú existujúcim osobám, objektom alebo udalostiam a môžu sa javiť ako autentické.
Zverejnený text: text publikovaný s cieľom informovať verejnosť o veciach verejného záujmu, ak nad ním nebola vykonaná ľudská revízia alebo redakčná kontrola.
Hlavným cieľom je zmierniť riziko klamstva, chrániť integritu informačného ekosystému a podporiť gramotnosť v oblasti AI.
Nasadzujúce subjekty sú povinné deepfakes a text publikovaný s cieľom informovať verejnosť jasne a rozlíšiteľne, a to najneskôr v čase prvej interakcie alebo vystavenia osoby danému obsahu.
Dizajnové požiadavky: Kódex správania navrhuje použiť jednotnú ikonu EÚ (po jej sfinalizovaní) alebo iného označenia, ktoré obsahuje skratku „AI“ v anglickom jazyku. Označenie musí spĺňať prísne kritériá prístupnosti (napr. kontrastný pomer 4,5:1) a zrozumiteľnosti pre zraniteľné skupiny, ako sú deti alebo osoby so zdravotným postihnutím.
Umiestnenie označenia: označenie by malo byť priamo vložené do obsahu a malo by s ním „cestovať“ aj pri ďalšej distribúcii.
Napríklad:
- video – označenie na začiatku a v pravidelných intervaloch (pri dlhých videách) alebo nepretržite (pri krátkych videách).
- audio – zvukové vyhlásenie v prirodzenom jazyku na začiatku, v strede a na konci záznamu.
- text – označenie na začiatku, pri titulku alebo priamo pri AI generovanej časti.
AI Akt ako aj Kódex správania pritom uvádzajú nasledovné výnimky:
- umelecké a satirické diela – pri zjavne umeleckých alebo fiktívnych dielach je povinnosť zverejnenia obmedzená tak, aby nenarúšala pôžitok z diela alebo jeho bežné využívanie. Zverejnenie môže byť realizované napríklad v záverečných titulkoch alebo v nevtieravých rohoch obrazu.
- výnimka pre text – povinnosť označiť text neplatí, ak obsah prešiel ľudskou revíziou alebo redakčnou kontrolou a vydavateľ nesie za publikáciu redakčnú zodpovednosť.
- vymáhanie práva – povinnosť označenia obsahu sa nevzťahuje na prípady prevencie alebo stíhania trestných činov.
Pracujete s AI alebo ju vyvíjate? Máte už svoju AI dokumentáciu, prípadne AI Governance na riadenie AI vo firme? Ak nie, kontaktujte nás a my Vám ich pripravíme, aby ste mali svoju AI pod kontrolou.
