AI s limitovaným rizikom: povinnosti transparentnosti

Od 2. augusta 2026 sa uplatňujú povinnosti transparentnosti podľa čl. 50 AI Aktu. Systémy AI, na ktoré tieto povinnosti dopadajú, sa v praxi označujú ako „AI s limitovaným rizikom.“ AI Akt však tento pojem nepoužíva, ide teda o určité zjednodušenie, s ktorým prišla Komisia.

Čl. 50 AI Aktu ukladá štyri povinnosti:

• poskytovateľ chatbota alebo AI agenta musí ľuďom oznámiť, že komunikujú s AI;
• poskytovateľ generatívneho systému AI, ktorý generuje zvuk, obraz, video alebo text, musí výstupy strojovo čitateľným spôsobom označiť, že boli vytvorené alebo upravené pomocou AI;
• firma, ktorá používa systém na rozpoznávanie emócií alebo biometrickú kategorizáciu, musí o ňom dotknuté osoby informovať; a
• firma, ktorá AI používa, musí viditeľne alebo počuteľne označiť zvuk, obraz a video, ktorý je deepfake, a AI text, ktorým informuje verejnosť o záležitostiach verejného záujmu, ak text neprešiel ľudskou alebo redakčnou kontrolou osoby, ktorá zaň nesie redakčnú zodpovednosť.

Za porušenie hrozí pokuta až 15 mil. EUR alebo 3 % celosvetového ročného obratu, podľa toho, čo je vyššie. Pri malých a stredných podnikoch (MSP) a start-upoch podľa toho, čo je nižšie.

Pri každej zo štyroch povinností vysvetľujeme, na čo sa vzťahuje, kto ju musí plniť, aké má výnimky a ako ju firma splní podľa usmernení Komisie a Kódexu postupov pre transparentnosť AI generovaného obsahu. Zakázané praktiky spomíname iba tam, kde obmedzujú používanie systémov na rozpoznávanie emócií a biometrickú kategorizáciu. Vysokorizikovú AI ani podrobné určovanie postavenia firmy nerozoberáme, na tie odkazujeme.

Čl. 50 AI Aktu ukladá štyri povinnosti transparentnosti

Dve povinnosti nesú poskytovatelia (firmy, ktoré systém AI vyvíjajú a uvádzajú pod svojím menom) a dve nasadzujúce subjekty (firmy, ktoré systém AI používajú), podľa toho, čo systém AI robí. AI Akt (Akt o umelej inteligencii) im venuje samostatnú kapitolu IV.

Podľa čl. 50 AI Aktu nesie povinnosť:

• poskytovateľ systému AI, ktorý priamo komunikuje s ľuďmi;
• poskytovateľ systému AI, ktorý generuje zvukový, obrazový, video a textový obsah;
• nasadzujúci subjekt, ktorý s AI vytvorí deepfake alebo text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu (ďalej len „text vo verejnom záujme“); a
• nasadzujúci subjekt systému na rozpoznávanie emócií alebo biometrickú kategorizáciu.

Spoločné pravidlo pre všetky povinnosti je, aby človek informáciu podľa tohto článku dostal jasne a rozlíšiteľne, najneskôr pri prvej interakcii s obsahom alebo prvom vystavení sa tomuto obsahu. Jasná je informácia, ktorú človek postrehne a ľahko pochopí, rozlíšiteľná tá, ktorú odlíši od ostatných.

Povinnosti transparentnosti platia bez ohľadu na kategóriu rizika

Povinnosti podľa čl. 50 AI Aktu sa uplatnia bez ohľadu na to, či je systém AI vysokorizikový alebo nie. Platí teda, že systém AI môže byť vysokorizikový a zároveň bude musieť plniť povinnosti transparentnosti.

Inak povedané, aj vysokorizikový chatbot musí oznámiť, že je AI a splniť si nielen povinnosti transparentnosti ale aj povinnosti pre vysokorizikovú AI.

Či povinnosť nesie firma, závisí od jej postavenia pri konkrétnom systéme AI

Čl. 50 AI Aktu rozdeľuje povinnosti medzi dve postavenia, a to medzi poskytovateľa a nasadzujúci subjekt.

Poskytovateľ (provider) systém AI vyvíja alebo si ho dáva vyvinúť a uvádza ho na trh alebo do prevádzky pod svojím menom alebo ochrannou známkou. V praxi si to môžeme predstaviť tak, že ide o firmu, ktorá chatbot alebo generátor obrázkov ponúka pod svojím menom, aj o firmu, ktorá si chatbot vyvinula na vlastné použitie.

Nasadzujúci subjekt (deployer) systém AI používa v rámci svojej právomoci, okrem osobnej neprofesionálnej činnosti. V praxi rozhoduje o nasadení systému AI a o spôsobe jeho použitia, technickú kontrolu nad ním mať nemusí.

Poskytovateľom sa stáva aj firma, ktorá generatívny systém iného poskytovateľa upraví, napríklad novými trénovacími dátami, a uvedie ho do prevádzky pod svojím menom.

Svoje postavenie si preto firma určí pri každom systéme zvlášť. Podrobne to vysvetľujeme v článku Poskytovateľ alebo nasadzujúci subjekt podľa AI Aktu.

Povinnosti sa uplatňujú od 2. augusta 2026

Povinnosti podľa čl. 50 AI Aktu sú účinné od 2. augusta 2026. Jedinú výnimku majú poskytovatelia systémov AI na generovanie zvuku, obrazu, videa a textu, ak boli tieto systémy uvedené na trh pred týmto dátumom.

Ostatné termíny zhŕňame v článku o účinnosti AI Aktu.

Ako povinnosti splniť, spresňujú usmernenia Komisie a kódex postupov

Prvým podkladom sú nezáväzné usmernenia Komisie k čl. 50 AI Aktu. Ich obsah Komisia schválila 20. júla 2026 a podľa praxe ich bude revidovať.

Druhým podkladom je kódex postupov. Jeho konečné znenie vyšlo 10. júna 2026 a Komisia ho 8. júla 2026 posúdila ako primeraný pre splnenie si povinností transparentnosti.

 

Poskytovateľ chatbota musí ľuďom oznámiť, že komunikujú s AI (čl. 50 ods. 1 AI Aktu)

Poskytovateľ systému AI určeného na priamu interakciu s ľuďmi musí systém navrhnúť a vyvinúť tak, aby človek najneskôr pri prvej interakcii jasne vedel, že komunikuje s AI, pokiaľ to z okolností nie je zrejmé. V praxi si to môžeme predstaviť tak, že oznámenie poskytovateľ zabuduje priamo do chatbota. Dodatočný text niekde na webe alebo v podmienkach používania nestačí.

Táto povinnosť sa ale netýka iba chatbotov, ale aj hlasových asistentov a iných systémov AI, ktoré sú určené na to, aby komunikovali s ľuďmi. Napríklad hlasový asistent, ktorý zákazníka prevedie rezerváciou stola v reštaurácii alebo rezerváciou termínu na online meeting.

Povinnosť sa týka systémov AI, ktoré s ľuďmi priamo komunikujú

Povinnosť sa teda týka systému AI, ktorý spĺňa tieto štyri prvky:

• ide o systém AI, nie o  rýchle odpovede na základe vopred stanovených pravidiel alebo automatickú odpoveď v neprítomnosti;
• je určený na interakciu, teda na obojsmernú výmenu informácií;
• komunikuje priamo, spravidla v reálnom alebo takmer reálnom čase; a
• komunikuje s fyzickými osobami.

Podľa Komisie sem napríklad chatboty a hlasoví asistenti v zákazníckej podpore a e-commerce a AI spoločníci. Nepatrí sem naopak systém AI na preklady.

Podľa Komisie spadajú pod túto povinnosť aj AI agenti, ktorí za človeka napríklad rezervujú termíny alebo nakupujú a objednávajú tovary a služby, ak môžu komunikovať s ľuďmi. Takýto agenti musia informovať o tom, že sú AI a aj o tom, v mene koho konajú.

Priamou interakciou naopak nie je situácia, keď pracovník zákazníckeho servisu používa AI nástroj ako pomôcku. AI výstupy, ktoré človek riadne nepreveril a odoslal ich agent, však treba označiť.

Povinnosť síce nesie poskytovateľ chatbota, firma s chatbotom od dodávateľa ju však nemôže prehliadať

Čl. 50 ods. 1 AI Aktu ukladá povinnosť poskytovateľovi, nie nasadzujúcemu subjektu. To či ju Vaša firma musí splniť, preto závisí od toho, ako k chatbotu prišla:

• chatbot si firma vyvinula alebo dala vyvinúť a ponúka ho pod svojím menom, aj na vlastné použitie – firma je poskytovateľom a túto povinnosť si splniť musí;
• chatbot dodávateľa firma upravila a uviedla do prevádzky pod svojím menom – firma sa stáva poskytovateľom a túto povinnosť si plniť musí; alebo
• hotový chatbot dodávateľa firma nasadila bez úprav a pod jeho značkou: je nasadzujúcim subjektom túto povinnosť plniť nemusí.

Hraničným prípadom je chatbot dodávateľa, ktorý firma ponúka pod vlastnou značkou (white-label) alebo si ho cez API postaví a nasadí pod svojím menom. Z dôvodu právnej istoty považujeme takúto firmu za poskytovateľa, lebo chatbot uvádza do prevádzky pod svojím menom. Aj v tomto prípade si firma túto povinnosť musí splniť.

Ani nasadzujúci subjekt však nemôže prehliadať, či chatbot, ktorý používa, spĺňa povinnosť, aby vopred informoval, že je AI. Odporúčame preto zmluvne a technicky overiť, že dodávateľ zabezpečil splnenie svojej povinnosti.

Výnimka pre zrejmú a jasnú interakciu s AI sa vykladá úzko

Poskytovateľ nemusí oznámenie, že ide o AI systém, zobraziť, ak je pre primerane informovanú, pozornú a obozretnú osobu zrejmé, že komunikuje s AI. Podľa Komisie túto výnimku posudzuje a preukazuje poskytovateľ podľa cieľového aj predvídateľného publika vrátane detí a seniorov. Nestačí však iba všeobecné povedomie o chatbotoch, ak zákazník nevie, že konkrétny chatbot je AI systém.

Podľa Komisie je zrejmá interakcia napríklad pri internom asistentovi pre zaškolených zamestnancov alebo pri kódovacom asistentovi iba pre profesionálnych vývojárov. Zrejmá naopak nie je pri chatbotoch na webe a v helpdeskoch, ktorých odpovede môže používateľ vnímať ako ľudské, a ani pri robotickom zvieratku alebo inej hračke.

Oznámenie musí človek vidieť alebo počuť hneď pri prvej interakcii

Čl. 50 ods. 1 AI Aktu nepredpisuje konkrétnu techniku, ako oznámiť zákazníkom, že ide o AI chatbota alebo agenta. Komisia odporúča napríklad:

• úvodnú správu chatbota, že ide o AI;
• štítok „Komunikujete so systémom AI“ pri vstupnom poli;
• pri hlasových službách hlasové oznámenie na začiatku; a
• pri deťoch vekovo primeranú formu.

Samy osebe však nestačia:

• informácie iba v obchodných podmienkach alebo v dokumentácii;
• metadáta a vodoznaky, ktoré používateľ nevníma;
• označenie „asistent“ alebo ľudská podoba, ktoré môžu zavádzať; a
• všeobecné vyhlásenie „Služby na tejto stránke používajú AI“.

Podľa Komisie stačí zverejniť toto oznámenie aspoň raz na začiatku komunikácie. Pri finančnom, poistnom, právnom alebo zdravotnom poradenstve, sťažnostiach, zraniteľných osobách a AI spoločníkoch sú však potrebné aj opakované oznámenie, že ide o komunikáciu s AI.

Navyše, systém AI musí podľa Komisie vždy priznať, že je AI, keď sa ho na to človek opýta alebo je zjavne zmätený.

Ak chatbot generuje text alebo obrázky, je zároveň generatívnym systémom a jeho poskytovateľ, aj pri chatbote cez API či pod vlastnou značkou, musí plniť aj ďalšiu povinnosť.

 

Poskytovateľ generatívnej AI musí výstupy strojovo označiť (čl. 50 ods. 2 AI Aktu)

Poskytovateľ systému AI, ktorý generuje syntetický text, obraz, zvuk alebo video, musí zabezpečiť, aby výstupy boli označené v strojovo čitateľnom formáte. Takýto AI generovaný alebo upravený obsah sa musí dať ľahko odhaliť, a to aj pri systémoch AI na všeobecné účely. V praxi si to môžeme predstaviť tak, že značku síce nevidí človek, ale prečíta ju softvér alebo detekčný nástroj na to určený.

Povinnosť sa týka poskytovateľov systémov AI, ktoré generujú alebo upravujú obsah

Povinnosť označiť obsah vytvorený alebo upravený AI strojovo čitateľným spôsobom sa vzťahuje na poskytovateľa, ak sú súčasne splnené tieto podmienky:

• ide o systém AI;
• systém dokáže generovať syntetický obsah alebo s ním manipulovať;
• obsahom je zvuk, obraz, video alebo text; a
• neuplatní sa žiadna z výnimiek.

Syntetický je pritom aj obsah zmiešaný s ľudským materiálom. To znamená, že ak systém AI vytvorí obrázok z reálneho vstupného obrázku alebo reálny vstupný obrázok upraví, takýto výstup musí byť označený. Článok 50 AI Aktu sa pritom vzťahuje aj na systémy AI s licenciou s otvoreným zdrojovým kódom (open source).

Firma, ktorá systém AI iného poskytovateľa iba používa, si túto povinnosť plniť nemusí. Ak by však s pomocou tohto systému AI vytvorila deepfake alebo text vo verejnom záujme, musí si plniť vlastnú povinnosť, ku ktorej sa ďalej dostaneme.

Výnimky sa týkajú bežných redakčných úprav a nepodstatných zmien

Poskytovateľ systému AI, ktorý generuje zvuk, obraz, video alebo text, pritom nemusí označovať úplne všetko. Existujú aj výnimky z tejto povinnosti:

• systém AI vykonáva iba pomocnú funkciu pri štandardných redakčných úpravách;
• systém AI podstatne nemení vstupné údaje nasadzujúceho subjektu alebo ich sémantiku; alebo
• systém AI slúži na zákonom povolené odhaľovanie, prevenciu, vyšetrovanie alebo stíhanie trestných činov.

Pod tieto výnimky patrí podľa Komisie napríklad oprava gramatiky bez zmeny významu alebo AI preklad textu. Naopak, označiť je treba napríklad sumarizáciu, ktorá mení význam, alebo výmenu tváre na fotografii. Posúdenie je pritom vždy individuálne.

Komisia pripúšťa aj úzku výnimku pre B2B prípady, ak výstup súčasne:

• je čisto technický;
• je určený iba pre vopred určený okruh profesionálov; a
• nemá sa zdieľať mimo firmy.

Ide však o výklad Komisie, nie o výnimku z textu AI Aktu, preto odporúčame posúdenie pri B2B výstupoch zdokumentovať.

Poskytovateľ musí výstupy označiť a zároveň umožniť ich odhalenie

Povinnosť poskytovateľa označiť AI výstup má dve neoddeliteľné zložky, a to strojovo čitateľné označenie a možnosť odhalenia (detekcie). Obe zložky musí poskytovateľ zabezpečiť súčasne. Detekciu, teda odhaľovanie AI vytvoreného alebo upraveného obsahu má poskytovateľ podľa Komisie sprístupniť osobám, ktoré sú takémuto obsahu vystavené a výsledok overenia musí byť čitateľným pre človeka.

Odôvodnenie 133 AI Aktu uvádza ako prípustné techniky označovania napríklad vodoznak, metaúdaje, kryptografické metódy, logovanie alebo odtlačky. Úplný reťazec pôvodu obsahu poskytovateľ podľa Komisie viesť nemusí.

Technické riešenia však v každom prípade musia byť:

• účinné;
• interoperabilné, predovšetkým vďaka verejne dostupným priemyselným štandardom;
• odolné, aj voči bežným úpravám a útokom; a
• spoľahlivé.

Kódex postupov odporúča dve vrstvy označenia

Kódex postupov odporúča signatárom dve vrstvy strojovo čitateľného označenia, a to digitálne podpísané a časovo označené metadáta a neviditeľný vodoznak. Odtlačky (fingerprinting) či logovanie, ktoré odôvodnenie 133 uvádza medzi technikami, podľa Kódexu samy nestačia.

Pri voľnom texte, ktorý metadáta nenesie, stačí jedna vrstva, a to vodoznak. Text kratší ako 200 tokenov sa podľa Kódexu vodoznakom označiť nemusí, a to podľa stavu techniky v čase vydania Kódexu.

Detekčné riešenie musia poskytovatelia sprístupniť spravidla bezplatne.

Systémy uvedené na trh pred 2. augustom 2026 musia byť označené do 2. decembra 2026

Poskytovatelia generatívnych systémov AI, ktoré generujú zvuk, obraz, video alebo text a ktoré boli uvedené na trh pred 2. augustom 2026 musia tieto povinnosti splniť najneskôr do 2. decembra 2026, novšie systémy od 02. augusta 2026. Toto prechodné obdobie zaviedol Digital Omnibus – Nariadenie  Európskeho parlamentu a Rady (EÚ) 2026/1744.

Digital Omnibus pritom hovorí iba o systémoch „uvedených na trh“. Firme, ktorá si generatívny systém vyvinula a uviedla iba do prevádzky na vlastné použitie, preto odporúčame s prechodným obdobím nepočítať.

Zvyšné dve povinnosti, o ktorých budeme hovoriť, nesie firma, ktorá systém AI používa, a prvá z nich sa netýka obsahu, ale systémov, ktoré analyzujú samotných ľudí.

 

Firma, ktorá používa systém na rozpoznávanie emócií alebo biometrickú kategorizáciu, musí o ňom ľudí informovať (čl. 50 ods. 3 AI Aktu)

Firma, ktorá ako nasadzujúci subjekt používa systém na rozpoznávanie emócií alebo systém biometrickej kategorizácie, musí o jeho prevádzke informovať dotknuté osoby a ich osobné údaje spracúvať v súlade s GDPR. Pozor však na to, že rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách AI Akt zakazuje, s výnimkou systémov určených zo zdravotných alebo bezpečnostných dôvodov.

V praxi si túto povinnosť môžeme predstaviť tak, že človek má vedieť, že ho systém AI „číta a analyzuje“, skôr než mu je vystavený. Najprv sa pozrieme na to, na ktoré systémy AI sa povinnosť vzťahuje, a potom, kedy firma taký systém použiť nesmie.

Povinnosť sa týka systémov, ktoré z biometrických údajov odvodzujú emócie alebo zaraďujú ľudí do kategórií

Povinnosť podľa čl. 50 ods. 3. AI Aktu sa týka dvoch druhov systémov AI:

• systému na rozpoznávanie emócií (emotion recognition system), ktorý identifikuje alebo odvodzuje emócie alebo úmysly ľudí na základe ich biometrických údajov; a
• systému biometrickej kategorizácie (biometric categorisation system), ktorý zaraďuje ľudí do špecifických kategórií na základe ich biometrických údajov.

Biometrické údaje sú osobné údaje získané osobitným technickým spracúvaním fyzických, fyziologických alebo behaviorálnych znakov človeka, napríklad podoby tváre, daktyloskopických údajov, gestikulácie a pod.

V praxi si to môžeme predstaviť na príkladoch, ktoré spomína priamo Komisia:

• počítačová hra, ktorá zaznamenáva tvár hráča a jeho emócie;
• výstavná miestnosť, kde systém zachytáva tváre návštevníkov a zaraďuje ich do vekových skupín; a
• systém, ktorý určí vek alebo pohlavie človeka.

Povinnosť oznámiť používanie takéhoto systému AI platí aj vtedy, keď systém údaje vyhodnocuje až dodatočne, teda ex post.

Rozpoznávaním emócií však nie je zisťovanie fyzických stavov, ako je bolesť alebo únava, napríklad systém na zisťovanie únavy vodičov na prevenciu nehôd.

Rozhoduje teda to, či systém z biometrických údajov odvodzuje emócie alebo ľudí zaraďuje do kategórií, nie to, ako je systém prezentovaný firmou.

Rozpoznávanie emócií na pracovisku a vo vzdelávacích inštitúciách AI Akt zakazuje od 2. februára 2025

Povinnosť informovať sa však týka iba systémov AI, ktoré firma smie používať. Článok 5 ods. 1 AI Aktu totiž zakazuje uvádzať na trh, uvádzať do prevádzky na tento účel alebo používať:

• systémy AI na odvodzovanie emócií fyzickej osoby v oblasti pracoviska a vzdelávacích inštitúcií, s výnimkou systémov určených na uvedenie do prevádzky alebo na trh zo zdravotných alebo bezpečnostných dôvodov; a
• systémy biometrickej kategorizácie, ktoré jednotlivo kategorizujú ľudí na základe biometrických údajov s cieľom odvodiť ich rasu, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život alebo sexuálnu orientáciu.

Biometrická kategorizácia podľa veku alebo pohlavia však pod zákaz nespadá, a preto sa naň vzťahuje povinnosť podľa čl. 50 ods. 3 AI Aktu. Navyše, systémy na rozpoznávanie emócií, ktoré nie sú zakázané, AI Akt zaraďuje medzi vysokorizikové podľa Príloha III.

Oba zákazy, ktoré sú uvedené vyššie, sú účinné od 2. februára 2025. Za ich porušenie hrozí pokuta až 35 mil. EUR alebo 7 % celosvetového ročného obratu, podľa toho, čo je vyššie, pri MSP podľa toho, čo je nižšie.

Hranice oboch zákazov rozoberáme v článku Zakázané praktiky AI podľa AI Aktu.

Informovať dotknuté osoby musí firma, ktorá systém používa – teda nasadzujúci subjekt a nie jeho poskytovateľ

Povinnosť informovať dotknuté osoby o používaní systému na rozpoznávanie emócií a biometrickú kategorizáciu nesie nasadzujúci subjekt, teda firma, ktorá systém AI používa, aj keď ho kúpila ako hotový produkt.

Ilustračný príklad: kamery v obchodnom reťazci.

Obchodný reťazec nasadí pri vstupe do predajní kamery od dodávateľa, ktoré odhadujú vek a pohlavie návštevníkov na marketingovú štatistiku. Nasadzujúcim subjektom je reťazec, preto informovať návštevníkov a plniť GDPR musí on, nie dodávateľ kamier.

Od dodávateľa odporúčame vyžiadať podklady k funkciám systému a zmluvou upraviť spoluprácu, povinnosť informovať však na neho neprejde.

Informáciu musí dostať každý, kto je systému vystavený, najneskôr pri prvom vystavení sa mu

Firma musí informovať všetky osoby, ktoré sú systému vystavené, vrátane detí. Nasadzujúci subjekt je teda povinný informovať o tom, že osoba je vystavená prevádzke takéhoto systému a dôvodoch spracúvania osobných údajov podľa GDPR.

AI Akt formu oboznámenia nepredpisuje. Firma preto môže informáciu o používaní takéhoto systému poskytnúť písomne, štandardizovanými ikonami alebo ústne. Podľa Komisie môže ísť aj o vyskakovacie okno pred spustením hry alebo o viditeľné upozornenie pri každom vstupe do predajne.

Aj tu platí pravidlo, že informácia musí byť jasná a rozlíšiteľná pri prvom vystavení sa tomuto systému. Oznámenie navyše odporúčame spojiť s informáciami podľa GDPR, napríklad tabuľkou pri vstupe s odkazom na podrobnosti, aby ju človek dostal skôr, než ho systém zachytí.

Druhá povinnosť nasadzujúceho subjektu sa týka obsahu, ktorý nasadzujúci subjket s AI sám vytvorí.

 

Firma, ktorá AI používa, musí viditeľne alebo počuteľne označiť deepfake a AI text vo verejnom záujme (čl. 50 ods. 4 AI Aktu)

Firma, ktorá pomocou AI vytvorí deepfake alebo uverejní AI text vo verejnom záujme, ktorý neprešiel ľudskou alebo redakčnou kontrolou s osobou nesúcou redakčnú zodpovednosť, musí zverejniť, že obsah je umelo vytvorený alebo upravený AI. Strojovo čitateľné označenie poskytovateľa podľa Komisie nestačí, lebo označenie musí človek vnímať pri konzumácii takéhoto obsahu.

Najprv sa pozrieme na to, čo je vlastne deepfake a potom na povinnosť označiť ho.

Deepfake je realistický obsah, ktorý sa môže falošne javiť ako skutočný

Deepfake (v AI Akte „deep fake“) je obrazový obsah, zvukový obsah alebo videoobsah vytvorený alebo upravený pomocou AI, ktorý sa podobá na existujúce osoby, objekty, miesta, subjekty alebo udalosti a človeku by sa mohol javiť ako autentický alebo pravdivý. Text pritom deepfakom byť nemôže.

Podľa Komisie musí obsah súčasne spĺňať tieto štyri znaky, aby išlo o deepfake:

• zjavná podobnosť, teda vysoká miera podobnosti, nie totožnosť;
• existujúce alebo realistické osoby, objekty, miesta, subjekty alebo udalosti; a
• obsah by sa človeku mohol falošne javiť ako autentický alebo pravdivý.

V praxi si to môžeme predstaviť na príkladoch Komisie. Deepfakom je napríklad:

• video so syntetickým avatarom generálneho riaditeľa, ktorý zamestnancom gratuluje k výsledkom;
• AI obrázok produktu v reklame alebo na obale, ktorý môže zavádzať o jeho vzhľade či vlastnostiach; a
• klonovaný hlas moderátorov podcastu.

Deepfakom naopak nie je napríklad sfinga letiaca nad Eiffelovou vežou alebo skutočné auto na AI pozadí, ak reklama o produkte nezavádza. Spravidla ním nie je ani obsah s drobnou úpravou svetla, farieb alebo šumu.

Deepfakom teda môže byť aj bežná reklama alebo interné video pre zamestnancov.

Deepfake musí firma označiť tak, aby ho človek vnímal bez technických nástrojov

Podľa Komisie musí firma, ktorá používa systém AI na tvorbu deepfake, deepfake označiť viditeľne alebo počuteľne. Označenie musí mať každý deepfake výstup a pri obsahu, ktorý je dlhší a ľudia ho nemusia vidieť od začiatku, musí byť toto označenie minimálne na začiatku, na konci a niekoľkokrát v rámci celého obsahu.

Nasadzujúcim subjektom pritom zostáva firma, aj keď obsah vyrobí jej zamestnanec, agentúra alebo freelancer, a pri distribučných partneroch musí firma označenie zabezpečiť primeranými opatreniami, napríklad zmluvne.

Platforma, ktorá iba šíri cudzí obsah, nasadzujúcim subjektom nie je. Jej nástroj na označenie deepfaku firma použiť môže, zodpovednosť však zostáva na firme, ktorá deepfake vytvorí.

Označenie však deepfake nelegalizuje. Firma musí rešpektovať GDPR aj právo na ochranu podoby a hlasu. Pozor je potrebný si dať aj na systémy, ktoré vytvárajú intímne zábery osôb bez ich súhlasu alebo materiál sexuálneho zneužívania detí. Oba tieto spôsoby využívania AI sú od 02. decembra 2026 zakázané.

Pri umeleckých a satirických dielach stačí miernejšie označenie

Ani pri zjavne umeleckom, kreatívnom, satirickom alebo fiktívnom diele sa firma označeniu nevyhne. V takýchto prípadoch však stačí deepfake označiť primeraným spôsobom, ktorý nebráni zobrazeniu diela a zážitku z neho. Komisia tieto kategórie vykladá reštriktívne, a ak deepfake kombinuje informatívny a kreatívny charakter, vyžaduje plné označenie.

Miernejšie označenie podľa Komisie stačí napríklad pri filme s omladeným hercom alebo satirickom obrázku politika. Plné označenie naopak potrebuje napríklad teleshoppingové video so simulovanými zákazníkmi alebo AI generovaný influencer, ktorý testuje sponzorovaný produkt. Reklama sa za umelecké dielo teda spravidla nepovažuje.

Zmiernené označenie kódex odporúča umiestniť napríklad do titulkov, vedľa rámu obrázka alebo na obal.

AI text vo verejnom záujme treba označiť, ak ho nepreverila zodpovedná osoba

Firma, ktorá pomocou AI vygeneruje alebo upraví text vo verejnom záujme, ho tiež musí označiť. Text pod túto povinnosť spadá, ak:

• je uverejnený, teda prístupný neurčitému okruhu čitateľov, nejde teda o internú komunikáciu ani súkromnú korešpondenciu;
• jeho cieľom je informovať verejnosť; a
• týka sa záležitostí verejného záujmu, napríklad politiky, verejného zdravia, životného prostredia, bezpečnosti spotrebiteľov alebo ekonomického a finančného vývoja.

Bez kontroly treba podľa Komisie označiť napríklad AI upravené správy pre investorov na webe kótovanej spoločnosti. Mimo tejto povinnosti je naopak reklama alebo popis produktu bez tvrdení o zdraví, bezpečnosti spotrebiteľov či udržateľnosti.

Podľa nášho právneho názoru sú textami vo verejnom záujme aj firemné správy o udržateľnosti a tlačové správy o hospodárení, zdraví či životnom prostredí. Hranica zatiaľ však nie je ustálená, preto pri nich odporúčame buď vecnú kontrolu zodpovednou osobou alebo označenie, že ide o AI generovaný text.

Text, aj keď splní vyššie uvedené podmienky, nie je potrebné označiť, ak sú splnené obe tieto požiadavky:

• text prešiel ľudskou alebo redakčnou kontrolou aspoň v rozsahu overenia faktov, pričom nestačí kontrola pravopisu, existencia redakčnej politiky, automatická kontrola ani formálne schválenie; a
• za uverejnenie nesie redakčnú zodpovednosť fyzická alebo právnická osoba.

Podľa Komisie však výnimku ruší napríklad podstatný zásah AI po redakčnom schválení.

Výnimku tak podľa Komisie spĺňa napríklad AI správa o udržateľnosti preverená odborníkmi z compliance alebo AI preklad článku, ktorý prešiel redakčnou kontrolou. Naopak výnimku nespĺňajú AI články, ktoré skontrolovala iná AI a človek vôbec alebo len povrchne.

Kódex postupov ponúka EU ikonu a pravidlá jej umiestnenia

Kódex postupov odporúča označovať deepfake a texty vo verejnom záujme EU ikonou so skratkou „AI“ v angličtine, ktorá je voľne dostupná a má tri varianty: „AI + GENERATED“ pre plne generovaný obsah, „AI + MODIFIED“ pre čiastočne upravený obsah a základnú ikonu.

Ikonu Kódex odporúča umiestniť takto:

• obrázok a video – do obsahu, napríklad do pravého horného rohu, pri videu na začiatku a po každom prerušení;
• zvuk – hlasové upozornenie na začiatku, pri dlhom alebo živom obsahu opätovné upozornenie; a
• text – nad text, k titulku alebo do tiráže.

Dodržanie kódexu však podľa jeho vlastného textu nie je nevyvrátiteľným dôkazom súladu. Podrobnosti rozoberáme v článku Ako presne označiť AI obsah.

Ak firma niektorú zo štyroch povinností nesplní, hrozí jej pokuta.

 

Za porušenie povinností transparentnosti hrozí pokuta až 15 miliónov EUR alebo 3 % obratu

AI Akt za nesplnenie povinností podľa čl. 50 stanovuje poskytovateľom aj nasadzujúcim subjektom maximálnu výšku pokuty 15 mil. EUR alebo 3 % celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, čo je vyššie. Pri MSP, vrátane startupov a pri malých podnikoch so strednou trhovou kapitalizáciou platí nižšia z oboch hodnôt.

Orgán pri určení pokuty zohľadní najmä závažnosť a trvanie porušenia, spoluprácu a prijaté technické a organizačné opatrenia. Komisia v usmerneniach uvádza, že orgány môžu dodržiavanie Kódexu postupov zohľadniť ako poľahčujúcu okolnosť. Opatrenia, ktoré firma zavedie a zdokumentuje, teda ovplyvnia aj výšku prípadnej pokuty.

Plnenie povinností podľa článku 50 AI Aktu budú kontrolovať a pokuty ukladať vnútroštátne orgány dohľadu nad trhom z vlastného podnetu alebo na sťažnosť ktorejkoľvek osoby. Na Slovensku dozorný orgán a postup určí vnútroštátny zákon, ktorý však ešte nie je parlamentom schválený. Všeobecným orgánom dozoru by pritom malo byť MIRRI a Úrad na ochranu osobných údajov, pri AI, ktorá spracúva osobné údaje.

Povinnosti sú však účinné už od 2. augusta 2026 bez ohľadu na to, kedy Slovensko tento zákon finálne schváli.

 

Ako splniť povinnosti transparentnosti vo firme

Postup, ako si splniť povinnosti transparentnosti:

1. Spíšte systémy AI a určte postavenie firmy. Spíšte všetky chatboty, AI agentov, generatívne nástroje, systémy, ktoré vyhodnocujú tváre alebo hlas, a miesta, kde firma uverejňuje AI obsah. Pri každom určite postavenie firmy a príslušný odsek čl. 50 AI Aktu, ktorý sa na Vás vzťahuje.
2. Nastavte oznámenie v chatbotoch a AI agentoch. Ak je firma poskytovateľom, IT oddelenie nastaví v chatbote alebo asistentovi úvodnú správu, oznámenie či štítok a zaručí, že systém AI na priamu interakciu vždy prizná, že je AI. Ak je firma nasadzujúcim subjektom, overte u dodávateľa, že oznámenie zabezpečil.
3. Zaveďte strojové označenie, ak ste poskytovateľom generatívneho systému. Poskytovateľom generatívneho systému môže byť aj firma s chatbotom cez API či pod vlastnou značkou. Firma musí zabezpečiť označenie generovaného obsahu ako aj jeho detekciu.
4. Preverte systémy na rozpoznávanie emócií a biometrickú kategorizáciu. Preverte, či firma nepoužíva rozpoznávanie emócií na pracovisku alebo vo vzdelávacej inštitúcii a či niektorý systém neodvodzuje z biometrických údajov citlivé charakteristiky uvedené v čl. 5 AI Aktu. Zakázaný systém firma musí prestať používať. Výnimku zo zdravotných alebo bezpečnostných dôvodov a hraničné prípady odporúčame preveriť s advokátom. Pri ostatných systémoch nastavte oznámenie pre osoby, ktoré sú tomuto systému vystavené spolu s informáciou podľa GDPR.
5. Zaveďte pravidlá pre deepfaky a redakčnú kontrolu textov. Marketing, komunikácia a HR prijmú pravidlo, kedy a ako obsah označiť, napríklad EU ikonou, a zaviažte k tomu aj agentúry a freelancerov. Určite osobu s redakčnou zodpovednosťou, prijmite politiku vecnej kontroly AI textov a kontakt na túto osobu zverejnite.
6. Zdokumentujte opatrenia a preverujte ich. Spíšte, aké opatrenia firma pri každom systéme prijala, zabezpečte školenie zamestnancov a pracovníkov a kanál na nahlásenie chýbajúceho označenia. Tieto opatrenia priebežne kontrolujte.

Časté otázky

Týkajú sa našej firmy povinnosti transparentnosti podľa AI Aktu?

Spravidla áno, ak používate chatbot alebo generatívny nástroj na tvorbu zvuku, obrázkov, videí alebo textov pod vlastným menom, používate systém, ktorý z tváre alebo hlasu odhaduje emócie, vek či pohlavie, alebo s AI vytvárate deepfaky či texty vo verejnom záujme. Ktorá povinnosť vás zaťaží, závisí od funkcie systému a od postavenia vašej firmy, nie od kategórie rizika.

Musíme označovať texty a obrázky, ktoré nám pomáha tvoriť ChatGPT alebo iný AI nástroj?

Strojové označenie výstupov zabezpečuje poskytovateľ nástroja, teda v tomto prípade OpenAI. Vy sami označujete iba deepfake a text vo verejnom záujme, ktorý neprešiel ľudskou alebo redakčnou kontrolou s osobou nesúcou redakčnú zodpovednosť. Strojová značka poskytovateľa vám pri nich nestačí. Bežný marketingový text spravidla označovať netreba, pozor však na tvrdenia o zdraví, bezpečnosti spotrebiteľov a udržateľnosti.

Musíme označiť aj obsah, ktorý sme vytvorili pred 2. augustom 2026?

Podľa Komisie nie. Výstupy a deepfaky vytvorené pred 2. augustom 2026 ani texty vytvorené a uverejnené pred týmto dátumom netreba dodatočne označovať. Ak však text vytvorený skôr uverejníte 2. augusta 2026 alebo neskôr, označiť ho treba.

Platia tieto povinnosti aj pri AI nástroji, ktorý firma používa iba interne, nie smerom k verejnosti?

Závisí od toho, ktorú povinnosť riešite. Oznámenie pri chatbote aj strojové označenie obsahu platia aj pre systém, ktorý firma vyvinula a uviedla iba do prevádzky na vlastné použitie, lebo pri ňom je firma poskytovateľom.

Pomôže firme, ak dodrží Kódex postupov pre transparentnosť AI generovaného obsahu?

Áno, ale iba nepriamo. Dodržiavanie kódexu môžu orgány podľa usmernení Komisie zohľadniť ako poľahčujúcu okolnosť pri určení výšky pokuty. Samotné dodržanie kódexu však podľa jeho vlastného textu nie je nevyvrátiteľným dôkazom súladu s čl. 50 AI Aktu, ale značne pri kontrole pomôže.

Kto na Slovensku dohliada na dodržiavanie čl. 50 AI Aktu?

Dohliadať budú vnútroštátne orgány dohľadu nad trhom, ktoré konajú z vlastného podnetu alebo na sťažnosť ktorejkoľvek osoby, a popri nich si právomoci ponechajú orgány ochrany osobných údajov a spotrebiteľa. Konkrétny orgán na Slovensku určí vnútroštátny zákon, na povinnostiach to však nič nemení, tie platia od 2. augusta 2026.

Nastavte transparentnosť AI vo vašej firme

Pomôžeme vám zmapovať systémy AI vo firme, určiť vaše postavenie pri každom z nich a nastaviť oznámenia pri chatbotoch a systémoch, ktoré vyhodnocujú tváre či hlas. Pripravíme aj označovanie obsahu, zmluvy s dodávateľmi a politiku redakčnej kontroly. Ozvite sa nám na alebo na +421 948 253 977.

 

Použité zdroje

• Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 (AI Act), úradné znenie, najmä čl. 2, 3, 5, 50, 99, 111 a 113, príloha III a odôvodnenia 18, 44, 132, 133 a 137, Európska únia. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
• Nariadenie (EÚ) 2024/1689, konsolidované znenie k 27. 7. 2026 (dokumentačná pomôcka), Európska únia. https://eur-lex.europa.eu/legal-content/SK/TXT/?uri=CELEX:02024R1689
• Nariadenie Európskeho parlamentu a Rady (EÚ) 2026/1744 z 8. 7. 2026 (digitálny omnibus o AI), Európska únia. https://eur-lex.europa.eu/eli/reg/2026/1744/oj
• Guidelines on the transparency obligations for providers and deployers of AI systems (usmernenia k čl. 50, príloha k C(2026) 5054 final) a oznámenie C(2026) 5054 final o schválení ich obsahu z 20. 7. 2026, Európska komisia. https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
• Code of Practice on Transparency of AI-generated content (Kódex postupov pre transparentnosť AI generovaného obsahu), Európska komisia. https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
• Commission Opinion on the assessment of the Code of Practice on Transparency of AI-generated content, Európska komisia. https://digital-strategy.ec.europa.eu/en/library/commission-opinion-assessment-code-practice-transparency-ai-generated-content
• Regulatory framework for AI, Európska komisia. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai