Zakázané praktiky AI podľa AI Aktu: kompletný prehľad zákazov

Zakázané praktiky AI podľa AI Aktu upravuje čl. 5, ktorý od 2. februára 2025 zakazuje osem praktík, a od 2. decembra 2026 pribudnú dve ďalšie. Zakázaná umelá inteligencia sa netýka iba vývojárov, ale aj firmy, ktorá systém AI len kúpila a používa.

Zakázaná je však až praktika, ktorá splní všetky podmienky zákazu, a za porušenie hrozí pokuta až 35 mil. eur alebo až 7 % celosvetového ročného obratu.

Zakázané praktiky upravuje čl. 5 AI Aktu, lebo ohrozujú základné práva

Zakázané praktiky upravuje čl. 5 AI Aktu (Akt o umelej inteligencii, nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689). AI Akt pri nižšie uvedencýh systémoch AI v zásade zakazuje tri činnosti, a to:

• uvádzanie na trh;
• uvádzanie do prevádzky; a
• používanie.

EÚ zákazy odôvodnila ochranou dôležitých záujmov obyvateľov Únie. Patrí sem ochrana pred diskrimináciou, ochrana osobných údajov a súkromia aj práva dieťaťa, taktiež ochrana ľudskej dôstojnosti, slobody, rovnosti, demokracie, právneho štátu a základných práv. Nejde teda o všeobecnú obavu z technológie, ale o konkrétne spôsoby jej použitia, ktoré Únia považuje za mimoriadne škodlivé a zneužívajúce.

Hlavným výkladovým zdrojom je usmernenie Európskej komisie k zakázaným praktikám. Usmernenie síce nie je záväzné, ale firmám poskytuje dostatok informácií o tom, ako bude Komisia alebo príslušný dozorný orgán tieto zákazy posudzovať.

Usmernenie je teda dôležitou výkladovou pomôckou, nie však záväzným právnym predpisom. Záväzný výklad môže dať iba Súdny dvor EÚ a konkrétny prípad si vždy vyžaduje vlastné posúdenie.

 

AI Akt dnes zakazuje osem praktík a od 2. decembra 2026 pribudnú dve ďalšie

Článok 5 ods. 1 AI Aktu obsahuje osem pôvodných zakázaných praktík, ktoré sú účinné. už od 2. februára 2025 a dve nové zakázané praktiky, ktoré budú platí od od 2. decembra 2026.

Od 2. februára 2025 AI Akt zakazuje tieto praktiky:

a) škodlivú manipuláciu a klamanie;

b) škodlivé využívanie zraniteľností;

c) sociálne bodovanie (social scoring);

d) individuálne posudzovanie a predvídanie rizika trestných činov;

e) necielenú extrakciu na vývoj databáz na rozpoznávanie tváre;

f) rozpoznávanie emócií na pracovisku a vo vzdelávaní;

g) biometrickú kategorizáciu podľa citlivých znakov; a

h) diaľkovú biometrickú identifikáciu v reálnom čase na účely presadzovania práva.

Od 2. decembra 2026 pribúdajú tieto zákazy, ktoré doplnil Digital Omnibus, teda nariadenie (EÚ) 2026/1744:

ba) intímny materiál bez súhlasu dotknutej osoby (tzv. intímne deepfake); a

bb) materiál sexuálneho zneužívania detí (CSAM).

 

Zákazy sa týkajú aj firmy, ktorá systém AI iba používa

Zákazy dopadajú na poskytovateľa (provider), teda firmu, ktorá systém AI vyvíja a uvádza na trh, ale aj na nasadzujúci subjekt (deployer), teda firmu, ktorá systém AI používa pod svojou kontrolou. Ako určiť postavenie firmy, vysvetľujeme v článku poskytovateľ alebo nasadzujúci subjekt podľa AI Aktu.

Nasadzujúci subjekt pritom neochráni to, že dodávateľ v zmluve s nasadzujúcim subjektom vyhlásil, že systém AI nepoužíva zakázané praktiky. Zákazy sa navyše vzťahujú:

• na akýkoľvek systém AI vrátane systémov na všeobecné účely, aj po integrácii do iného systému;
• na systémy uvedené na trh alebo do prevádzky pred 2. februárom 2025; a aj
• na systémy s bezplatnou licenciou s otvoreným zdrojovým kódom.

 

Zakázaná je až praktika, ktorá splní všetky podmienky

Každý zákaz obsahuje niekoľko podmienok a zakázaná je až praktika, ktorá ich splní všetky súčasne. Prvou podmienkou je vždy to, že niekto systém AI uvádza na trh, do prevádzky alebo ho používa, preto ju pri jednotlivých zákazoch neopakujeme.

Komisia zákazy vykladá veľmi opatrne, lebo za ich porušenie hrozia najvyššie pokuty. Systém AI, ktorý síce nepoužíva zakázané praktiky, stále môže byť nezákonný napríklad podľa GDPR, Antidiskriminačného zákona, Zákonníka práce alebo pre jeho rozpor so spotrebiteľským právom.

Pri každej praktike preto postupujeme rovnako a postupne vysvetľujeme, čo AI Akt zakazuje, aké sú podmienky, čo nie je zakázané, príklady Komisie a čo si musí firma preveriť.

 

Zakázaná je manipulácia a klamanie, ktoré spôsobia značnú ujmu

Čo AI Akt zakazuje. AI Akt zakazuje systémy AI, ktoré podprahovými, účelovo manipulatívnymi alebo klamlivými technikami podstatne narušia správanie ľudí tak, že prijmú rozhodnutie, ktoré by inak neprijali, a to im spôsobí alebo pravdepodobne spôsobí značnú ujmu. V praxi si to môžeme predstaviť tak, že systém ovplyvní človeka spôsobom, ktorý si neuvedomuje alebo ktorý ho klame, a ten sa rozhodne vo svoj neprospech.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• systém využíva podprahové, účelovo manipulatívne alebo klamlivé techniky;
• jeho cieľom alebo účinkom je podstatne narušiť správanie tak, že citeľne oslabí schopnosť prijať informované rozhodnutie; a
• spôsobí značnú ujmu alebo je odôvodnené ju predpokladať.

Úmysel sa nevyžaduje, stačí účinok, a zakázaný môže byť aj systém, ktorý sa manipulatívne techniky naučil sám. Značná ujma pritom môže byť fyzická, psychická alebo finančná.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• zákonné presviedčanie, ktoré je transparentné;
• bežná reklama a personalizácia bez manipulatívnych alebo klamlivých techník; a
• spravidla ani halucinácia generatívneho systému, najmä ak poskytovateľ informoval o jeho obmedzeniach a systém nie je určený pre citlivé oblasti.

Príklady z usmernení Komisie. Zakázaný môže byť chatbot, ktorý sa syntetickým hlasom vydáva za príbuzného a pácha podvody. Hranicu medzi zakázanou praktikou a legálnym presviedčaním Komisia ukazuje na emóciách zákazníkov. Transparentná analýza emócií zákazníkov na zlepšenie podpory je presviedčanie; skryté odvodzovanie emócií za účelom zvýšenia ceny v správnom okamihu je manipulácia.

Čo si má firma preveriť. Odporúčame preveriť:

• personalizáciu ponúk a odporúčacie systémy;
• chatboty v predaji a zákazníckej podpore;
• temné vzory (dark patterns) v rozhraní; a
• skryté odvodzovanie emócií pri cenotvorbe.

 

Zakázané je zneužívať zraniteľnosť ľudí, akými sú vek, postihnutie alebo ekonomická a sociálna situácia

Čo AI Akt zakazuje. AI Akt zakazuje systémy AI, ktoré využívajú zraniteľnosť človeka pre jeho vek, zdravotné postihnutie alebo osobitnú sociálnu či ekonomickú situáciu, podstatne narušia jeho správanie a spôsobia alebo pravdepodobne spôsobia značnú ujmu. V praxi si to môžeme predstaviť tak, že systém AI tlačí na slabé miesto, ktorému sa človek nevie ľahko brániť, napríklad na dôverčivosť dieťaťa alebo finančnú tieseň.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• systém využíva zraniteľnosť z dôvodu veku, zdravotného postihnutia alebo sociálnej či ekonomickej situácie;
• jeho cieľom alebo účinkom je podstatne narušiť správanie; a
• spôsobí značnú ujmu alebo je odôvodnené ju predpokladať.

Na rozdiel od predchádzajúceho zákazu sa nevyžaduje citeľné oslabenie schopnosti prijať informované rozhodnutie. Zraniteľnými sú podľa Komisie aj dočasne nezamestnaní alebo nadmerne zadlžení ľudia.

Čo zákaz nezakazuje. Pod zákaz nepatrí:

• cielenie, ktoré nevyužíva zraniteľnosť, napríklad podľa modelu telefónu;
• asistenčné systémy pre seniorov a ľudí so zdravotným postihnutím; a
• bankové a poisťovacie služby v súlade so sektorovými predpismi, ak systém AI chráni zraniteľné osoby.

Príklady z usmernení Komisie. Zakázaná je napríklad hračka s AI, ktorá deti nabáda k čoraz riskantnejším úlohám, alebo reklama na predátorské finančné produkty zacielená na miesta alebo okresy s nízkymi príjmami.

Čo si má firma preveriť. Odporúčame preveriť:

• produkty pre deti a seniorov;
• cielenie finančných produktov; a
• personalizované ceny, najmä v poistení a iných regulovaných odvetviach.

Prvé dva zákazy teda chránia samotnú autonómiu človeka a slobodu jeho rozhodovania. Ďalší zákaz chráni pred dôsledkami toho, ako firma vyhodnotí svojho zákazníka.

 

Sociálne bodovanie (social scoring)

Čo AI Akt zakazuje. AI Akt zakazuje hodnotiť ľudí počas určitého obdobia podľa ich spoločenského správania alebo osobných charakteristík, ak výsledné skóre vedie k horšiemu zaobchádzaniu v nesúvisiacom kontexte alebo k zaobchádzaniu neprimeranému ich správaniu. Zákaz platí nielen pre verejný sektor, ale aj pre súkromný sektor, čo vyplýva z odôvodnenia 31 AI Aktu. V praxi si to môžeme predstaviť tak, že firma zbiera o človeku údaje v jednej oblasti života a skóre z nich mu zhorší postavenie v inej oblasti života.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne:

• systém hodnotí alebo klasifikuje ľudí;
• hodnotenie alebo klasifikácia prebieha počas určitého obdobia;
• hodnotenie alebo klasifikácia sa vykonáva podľa spoločenského správania alebo osobných či osobnostných charakteristík; a
• výsledné skóre vedie alebo môže viesť k škodlivému alebo nepriaznivému zaobchádzaniu v nesúvisiacom kontexte, alebo k zaobchádzaniu neodôvodnenému či neprimeranému.

Skóre nemusí byť jedinou príčinou škodlivého alebo nepriaznivého zaobchádzania a môže ho vytvoriť aj iná firma než tá, ktorá skóre vytvorila a používa. Nepriaznivé zaobchádzanie pritom nevyžaduje ujmu, stačí aj nepriaznivé zaobchádzanie v podobe výberu na dodatočné kontroly, napríklad častejšie kontroly na letiskách.

Čo zákaz nezakazuje. Pod zákaz nepatrí:

• hodnotenie ľudí na špecifický účel s údajmi zo súvisiaceho kontextu, napríklad bodovanie kreditného rizika alebo predchádzanie podvodom v oblasti finančných služieb; a
• hodnotenie právnických osôb, ak skóre nevychádza zo správania alebo charakteristík jednotlivcov, napríklad ich zamestnancov alebo konateľov.

Príklady z usmernení Komisie. Zakázané je, ak poisťovňa podľa údajov o výdavkoch z banky, ktoré so životným poistením nesúvisia, odporučí odmietnutie alebo vyššie poistné. Pre dodávateľov štátu je dôležitý príklad daňového orgánu, ktorý podľa nízkeho príjmu alebo dvojitej štátnej príslušnosti zaradí príjemcov prídavkov na dieťa medzi podozrivých a zastaví im výplaty.

Čo si má firma preveriť. Odporúčame preveriť:

• zákaznícke skóre a vernostné programy;
• scoring v úveroch a poistení, teda aké údaje systém používa a z akého kontextu; a
• kombinovanie údajov zo sociálnych sietí.

Firma má podľa Komisie vedieť preukázať, že praktika je legitímna, preto odporúčame zdokumentovať, aké údaje skóre používa, prečo a na aký účel.

 

Predpovedať trestnú činnosť človeka len z jeho profilu je zakázané

Čo AI Akt zakazuje. AI Akt zakazuje posudzovať riziko, že človek v budúcnosti spácha trestný čin, výlučne na základe jeho profilovania alebo osobnostných vlastností a charakteristík. Súkromnej firmy sa zákaz podľa Komisie týka najmä v prípadoch, ktoré uvádzame nižšie.

Zákaz sa nevzťahuje na systém AI, ktorý plní iba podpornú funkciu popri ľudskom posúdení, ktoré už vychádza z objektívnych a overiteľných skutočností spojených s trestnou činnosťou. V praxi to znamená, že systém AI nesmie označiť človeka za budúceho páchateľa len pre to, kto je, smie však pomôcť vyhodnotiť skutočnosti, ktoré už existujú – napríklad, či sa konkrétny človek podieľal na trestnej činnosti.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• systém AI posudzuje riziko alebo predvída, že fyzická osoba v budúcnosti spácha trestný čin; a
• robí to výlučne na základe profilovania alebo posúdenia osobnostných vlastností a charakteristík.

Predvídanie trestnej činnosti ako také teda zakázané nie je. Kľúčové je slovo „výlučne“. Ak systém AI zohľadňuje aj iné informácie a skutočnosti, musia byť skutočné, podstatné a zmysluplné.

Kedy sa zákaz týka súkromnej firmy. Podľa Komisie najmä vtedy, keď firma:

• je zo zákona poverená výkonom verejnej moci pri stíhaní trestných činov alebo výkone trestov;
• na žiadosť orgánu koná v jeho mene a robí individuálne predpovede; alebo
• posudzuje riziko trestných činov, lebo jej to ukladá zákon, napríklad pri boji proti praniu špinavých peňazí (AML).

Banka, ktorá pri AML používa systém AI môže pod tento zákaz spadať, ak splní všetky jeho podmienky. Ak však pri AML používa systém AI len so zákonnými objektívnymi údajmi a s ľudským overením, zákaz sa na ňu vzťahovať nebude.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• profilovanie zákazníkov na ochranu finančných záujmov bez cieľa posúdiť riziko trestného činu;
• predpovede výskytu trestnej činnosti podľa konkrétneho miesta, ak sa nepoužijú na profilovanie konkrétnej osoby; a
• predvídanie trestnej činnosti právnických osôb a predvídanie správnych deliktov.

Príklady z usmernení Komisie. Zakázané je, ak polícia predpovedá, že konkrétna osoba spácha trestný čin terorizmu výlučne na základe jej veku, štátnej príslušnosti, adresy a typu auta. Zakázaná môže byť aj činnosť súkromnej spoločnosti, ktorá pre políciu analyzuje bankové transakcie a komunikačné údaje, aby predpovedala páchateľov ekonomických trestných činov.

Čo si má firma preveriť. Odporúčame preveriť:

• nástroje, ktoré firma dodáva polícii, väzniciam, colnej alebo finančnej správe;
• AML scoring, teda či pracuje len so zákonnými údajmi a s ľudským overením; a
• fraud scoring, ktorý by začal predpovedať „páchateľov“ podľa osobných charakteristík.

Od profilovania prechádza AI Akt v ďalších štyroch zákazoch k biometrii, teda k údajom o tvári, hlase a tele.

 

Zakázané je budovať databázy tvárí ich necielenou extrakciou z internetu alebo kamier

Čo AI Akt zakazuje. AI Akt zakazuje systémy AI, ktoré vytvárajú alebo rozširujú databázy na rozpoznávanie tváre necielenou extrakciou (scrapingom) podôb tváre z internetu alebo zo záznamov kamerových systémov. V praxi si to môžeme predstaviť tak, že AI nástroj plošne sťahuje fotografie tvárí z webu a ukladá ich do databázy, v ktorej sa dajú ľudia vyhľadať a identifikovať.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• účelom je vytvoriť alebo rozšíriť databázu na rozpoznávanie tváre;
• systém používa nástroje AI na necielenú extrakciu; a
• zdrojom je internet alebo záznam kamerového systému.

Necielená extrakcia funguje ako vysávač bez zamerania na konkrétnu osobu a nič na tom nemení ani rešpektovanie súboru robots.txt.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• cielená extrakcia, napríklad pri pátraní po obetiach obchodovania s ľuďmi;
• trénovacie databázy, ktoré sa nepoužívajú na rozpoznávanie osôb; a
• databázy spred 2. februára 2025, ktoré firma ďalej nerozširuje, aj tie však musia byť v súlade s GDPR.

Príklady z usmernení Komisie. Zakázané je, ak softvérová spoločnosť automatizovaným nástrojom zbiera fotografie zo sociálnych médií na rozpoznávanie tváre.

 

Príklad: Clearview AI

Holandský úrad na ochranu osobných údajov rozhodnutím zo 16. mája 2024 uložil spoločnosti Clearview AI za službu rozpoznávania tváre pokutu 30,5 mil. EUR, okrem iného za spracúvanie biometrických údajov v rozpore s čl. 9 ods. 1 GDPR.

 

Čo si má firma preveriť. Odporúčame preveriť:

• zdroje trénovacích a referenčných dát pri biometrických produktoch;
• využitie záznamov z kamier; a
• zmluvy s dodávateľmi databáz tvárí.

 

Rozpoznávanie emócií je zakázané na pracovisku a vo vzdelávaní

Čo AI Akt zakazuje. AI Akt zakazuje systémy AI, ktoré odvodzujú emócie ľudí na pracovisku a vo vzdelávacích inštitúciách, okrem prípadov, ak sa to robí zo zdravotných alebo bezpečnostných dôvodov. Komisia zákaz viaže na odvodzovanie z biometrických údajov vrátane hlasu, tváre, chôdze, gestikulácie a dynamiky písania na klávesnici. V praxi si to môžeme predstaviť tak, že systém AI z tváre na videohovore alebo z hlasu vyhodnocuje, či je zamestnanec alebo uchádzač nervózny, znudený či nadšený.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• systém AI identifikuje alebo odvodzuje emócie alebo úmysly;
• deje sa to na pracovisku alebo vo vzdelávacej inštitúcii; a
• nejde o výnimku zo zdravotných alebo bezpečnostných dôvodov.

Emóciou však napríklad nie je únava, bolesť ani samotný úsmev. Pracovisko Komisia vykladá široko, vrátane virtuálnych priestorov a uchádzačov počas výberového konania.

Výnimku naopak vykladá veľmi opatrne. Pod výnimku nepatrí zisťovanie stresu, vyhorenia či spokojnosti. Bezpečnosť zase znamená ochranu života a zdravia, nie majetku.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• rozpoznávanie emócií zákazníkov, napríklad v kontaktnom centre;
• odvodzovanie emócií z textu; a
• osobný tréning, ak výsledky nedostane personálne oddelenie.

Citlivá je hranica pri kamerách v prevádzkach a na pracovisku. Systém AI zameraný na verejnosť, napríklad na štadióne, ktorý popritom zachytí aj emócie personálu, pod zákaz nepatrí, ak nasadzujúci subjekt zabezpečí dostatočné záruky ochrany práv zamestnancov. Kamery supermarketu, ktoré sledujú emócie zamestnancov, sú naopak zakázané. Rozhoduje teda primárny cieľ systému AI.

Príklady z usmernení Komisie. Komisia za zakázané považuje napríklad:

• sledovanie emocionálneho tónu v hybridných tímoch z video hovorov;
• rozpoznávanie emócií pri nábore a počas skúšobnej doby; a
• nástroje na zisťovanie vyhorenia alebo stresu zamestnancov.

Rozpoznávanie emócií uchádzačov teda AI Akt zakazuje už od 2. februára 2025 a nepatrí medzi budúce povinnosti pre vysokorizikovú AI.

Čo si má firma preveriť. Odporúčame preveriť:

• nástroje na video hovory a hodnotenie uchádzačov;
• wellbeing a „sentiment“ nástroje pre zamestnancov;
• analytiku hovorov, teda či hodnotí operátorov, alebo zákazníkov; a
• online dozor nad študentmi a online nástroje na výučbu.

Ak systém AI obsahuje popri iných moduloch aj modul na rozpoznávanie emócií, odporúčame ho pri použití na pracovisku vypnúť.

 

Biometrická kategorizácia podľa citlivých charakteristík je zakázaná

Čo AI Akt zakazuje. AI Akt zakazuje systémy AI, ktoré jednotlivo zaraďujú ľudí na základe biometrických údajov s cieľom odvodiť ich rasu, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život alebo sexuálnu orientáciu. V praxi si to môžeme predstaviť tak, že systém AI z tváre alebo hlasu „uhádne“ citlivú vlastnosť človeka a podľa nej ho zaradí do príslušnej kategórie.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• ide o systém biometrickej kategorizácie;
• systém kategorizuje osoby jednotlivo;
• robí to na základe biometrických údajov; a
• jeho cieľom je odvodiť niektorý z vymenovaných citlivých znakov.

Zoznam citlivých znakov je pritom uzavretý a ide o rasu, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život alebo sexuálnu orientáciu

Čo zákaz nezakazuje. Pod zákaz nepatria:

• odhad veku alebo pohlavia, lebo nejde o vymenovaný citlivý znak; a
• označovanie a filtrovanie zákonne získaných údajov, napríklad na vyváženie trénovacích dát.

Príklady z usmernení Komisie. Zakázaný je systém AI, ktorý z fotografií na sociálnej sieti odvodzuje politickú alebo sexuálnu orientáciu používateľov a cieli na nich reklamu. Filtre na virtuálne vyskúšanie výrobku sú naopak povolené.

Čo si má firma preveriť. Odporúčame preveriť:

• marketingové nástroje, ktoré pracujú s fotografiami alebo videom zákazníkov;
• analytiku návštevníkov v retaile, teda či odhaduje len vek a pohlavie, alebo aj citlivé znaky; a
• anotáciu trénovacích dát.

 

Diaľková biometrická identifikácia v reálnom čase je zakázaná na účely presadzovania práva

Čo AI Akt zakazuje. AI Akt zakazuje používať diaľkovú biometrickú identifikáciu v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva, okrem úzkych výnimiek, napríklad pri pátraní po nezvestných osobách alebo pri hrozbe teroristického útoku. Súkromnej firmy sa zákaz týka iba vtedy, keď koná v mene polície alebo je poverená výkonom verejnej moci. V praxi si to môžeme predstaviť tak, že kamery na námestí priebežne porovnávajú tváre okoloidúcich s databázou hľadaných osôb.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• ide o systém diaľkovej biometrickej identifikácie;
• v reálnom čase;
• vo verejne prístupnom priestore; a
• na účely presadzovania práva.

Poskytovateľ, ktorý taký systém AI uvádza na trh, preto zákaz neporušuje, jeho systém je však vysokorizikový.

Na Slovensku takéto systémy AI na účely presadzovania práva dnes nesmie používať nikto, lebo neexistuje zákon, ktorý by orgánom činným v trestnom konaní umožňoval.

Kedy sa zákaz týka súkromnej firmy. Konať v mene polície znamená, že orgán firmu poveril alebo ju v konkrétnom prípade požiadal o podporu a dohliada na ňu. Ak firma odhaľuje trestné činy vo vlastnom mene, zákaz podľa sa na ňu nevzťahuje.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• rozpoznávanie tváre vo vlastnom mene, napríklad keď supermarket hľadá známych zlodejov;
• biometrické overenie totožnosti; a
• spätná identifikácia zo záznamu.

Rozpoznávanie tváre vo vlastnom mene však potrebuje právny základ podľa čl. 9 GDPR. Úrady a súdy ho podľa usmernení Komisie viackrát nepriznali, napríklad pri školách vo Francúzsku a pri supermarkete v Holandsku.

Príklady z usmernení Komisie. Nákupné centrum, ktoré na základe poverenia polície hľadá zlodejov rozpoznávaním tváre v reálnom čase, porušuje zákaz, lebo na pátranie po zlodejoch sa nevzťahuje žiadna výnimka. Ak to isté robí vo vlastnom mene, pod zákaz nespadá. Rozhoduje teda, v koho mene firma systém AI používa.

Čo si má firma preveriť. Odporúčame preveriť:

• rozpoznávania tváre pre políciu, mestá a dopravné podniky;
• či bezpečnostná služba alebo prevádzkovateľ nákupného centra či štadióna nekoná na pokyn polície; a
• pri vlastnom použití biometrie právny základ podľa čl. 9 GDPR.

Od 2. decembra 2026 k týmto zákazom pribudnú dva nové, zamerané na generatívnu AI.

 

Od 2. decembra 2026 je zakázané generovať intímne deepfake osoby bez jej súhlasu

Čo AI Akt zakazuje. Od 2. decembra 2026 AI Akt zakazuje systémy AI, ktoré bez výslovného súhlasu dotknutej osoby generujú alebo upravujú realistický obraz, video či zvuk zobrazujúci jej intímne časti tela alebo jej zapojenie do sexuálne explicitného konania. V praxi si to môžeme predstaviť tak, že aplikácia z bežnej fotografie skutočného človeka vytvorí jeho realistickú nahú podobu.

Nový zákaz nemá osobitné prechodné obdobie a  od 2. decembra 2026 sa vzťahuje aj na systémy AI, ktoré už sú na trhu. Do 1. decembra 2026 AI Akt takéto systémy výslovne nezakazuje, môžu však byť v rozpore s GDPR, trestným právom alebo predpisov o ochrane osobnosti.

Príklad: ClothOff

Taliansky úrad na ochranu osobných údajov 1. októbra 2025 podľa GDPR naliehavo obmedzil spracúvanie údajov ľudí v Taliansku aplikáciou ClothOff, ktorá vytvárala „deep nude“ obrázky. Vytkol jej najmä chýbajúce opatrenia, aby ju nepoužívali maloletí.

Podmienky zákazu. Zákaz sa uplatní, ak súčasne platí, že:

• ide o realistický obraz, video, zvuk alebo podobný materiál;
• materiál zobrazuje identifikovateľnú fyzickú osobu;
• zobrazuje jej intímne časti tela alebo sexuálne explicitné konanie;
• systém materiál generuje alebo s ním manipuluje; a
• chýba slobodný, konkrétny, informovaný, jednoznačný a výslovný súhlas tejto osoby.

Kto zákaz porušuje, závisí od postavenia firmy. Poskytovateľ porušuje zákaz, ak:

• je generovanie takého materiálu zamýšľaným účelom systému AI; alebo
• je to odôvodnene predvídateľný výsledok, ktorý sa dá zopakovať bez významnej technickej úpravy, a systém AI nemá primerané a dostatočné záruky, ktoré by tomu spoľahlivo zabránili a napravili nahlásené zneužitie.

Nasadzujúci subjekt porušuje zákaz, ak systém AI na generovanie takého materiálu použije, napríklad tak, že obchádza jeho ochranné opatrenia.

Podľa nášho výkladu teda zákaz nezasahuje každý generatívny nástroj, rozhoduje účel systému AI, predvídateľnosť výstupu a záruky. Pojmy „predvídateľný výsledok“ a „dostatočné záruky“ však zatiaľ nie sú ustálené, preto odporúčame, aby si poskytovateľ záruky zdokumentoval.

Čo zákaz nezakazuje. Pod zákaz nepatria:

• materiál bez identifikovateľnej osoby, karikatúry a nerealistické umelecké diela;
• aplikácie na skúšanie oblečenia a zdravotné aplikácie, ak intímne časti nie sú odhalené alebo je daný kvalifikovaný súhlas;
• úprava, ktorá nezvyšuje odhalenie, napríklad zmena pozadia alebo jasu; a
• náhodné vygenerovanie takého materiálu, ak nasadzujúci subjekt používa systém zákonne.

Označenie deepfake pritom súhlas nenahrádza. Pravidlá označovania deepfakov opisujeme v článku ako presne označiť AI obsah.

Čo vyplýva z odôvodnení novely. Komisia k novým zákazom usmernenia zatiaľ nevydala. Oporou nášho výkladu je preto odôvodnenie Nariadenia (EÚ) 2026/1744. Odôvodnenie 12 uvádza ako záruky napríklad kontrolu promptov a výstupov alebo mechanizmy oznamovania zneužitia. Pri systémoch AI, ktoré majú intímny obsah generovať so súhlasom, k zárukám patrí spoľahlivé získanie a preukázanie súhlasu.

Čo si má firma preveriť. Odporúčame preveriť:

• či firma ponúka alebo integruje generovanie obrazu, videa alebo hlasu, aj cez API, a má zdokumentované záruky a kanál na nahlasovanie zneužitia;
• pri systémoch AI, ktoré intímny obsah generovať majú, mechanizmus preukázania súhlasu; a
• či interné pravidlá zakazujú takéto použitie a obchádzanie ochranných opatrení.

 

Od 2. decembra 2026 je zakázané generovať materiál sexuálneho zneužívania detí

Čo AI Akt zakazuje. Od 2. decembra 2026 AI Akt zakazuje systémy AI, ktoré generujú materiál sexuálneho zneužívania detí (CSAM) alebo s ním manipulujú, vrátane úplne alebo čiastočne syntetického materiálu. Pre poskytovateľa a nasadzujúci subjekt platia rovnaké pravidlá ako pri predchádzajúcom zákaze. Aj tu teda rozhoduje účel systému AI, predvídateľnosť výstupu a záruky.

Zákaz však na rozdiel od predchádzajúceho chráni deti a namiesto súhlasu má výnimku pre konanie s oprávnením podľa vnútroštátneho práva.

Podmienky zákazu. Materiál sexuálneho zneužívania detí vymedzuje smernica Európskeho parlamentu a Rady 2011/93/EÚ, podľa ktorej:

• dieťaťom je osoba mladšia ako 18 rokov;
• ide o zobrazenie dieťaťa v skutočnom alebo simulovanom jednoznačne sexuálnom konaní alebo jeho pohlavných orgánov primárne na sexuálne účely; a
• rovnako sa posudzuje osoba, ktorá vyzerá ako dieťa, realistické snímky dieťaťa a pornografické predstavenie s dieťaťom.

Čo zákaz nezakazuje a čo vyplýva z odôvodnení novely. Podľa odôvodnenia 13 zákaz nebráni činnosti orgánov činných v trestnom konaní v rámci ich zákonných právomocí pri predchádzaní, odhaľovaní a vyšetrovaní trestnej činnosti.

 

Za porušenie zákazu hrozí pokuta až 35 mil. eur alebo 7 % obratu

AI Akt stanovuje za porušenie čl. 5 pokutu až 35 mil. eur alebo až 7 % celkového celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, ktorá suma je vyššia. Pri malých a stredných podnikoch (SME) podľa toho, ktorá suma je nižšia.

Sankcie sa uplatňujú od 2. augusta 2025. Orgán dohľadu nad trhom môže konať z vlastného podnetu aj na podnet tretej osoby a pri rizikovom systéme AI môže žiadať nápravu najneskôr do 15 pracovných dní.

Pri určení pokuty orgán dohľadu nad trhom zohľadní okrem závažnosti porušenia aj spoluprácu firmy a prijaté technické a organizačné opatrenia. Zdokumentované preverenie systémov AI a rýchla náprava teda môžu firme pomôcť pri určení pokuty, aj keď k porušeniu dôjde.

Slovensko zatiaľ orgán dohľadu nad trhom neurčilo

Na zozname orgánov dohľadu nad trhom, ktorý vedie Komisia, nie je pri Slovensku uvedený žiadny orgán. V Národnej rade SR je totiž návrh Zákona o štátnej správe v oblasti umelej inteligencie a európskej dátovej regulácie, ktorý ešte nie je schválený. Predpokladaný dátum účinnosti tohto nového zákona je 1. január 2027. Podľa tohto návrhu má byť všeobecným orgánom dohľadu nad trhom Ministerstvo investícií, regionálneho rozvoja a informatizácie SR (MIRRI). Dohľad nad systémami AI, ktoré spracúvajú osobné údaje, bude vykonávať Úrad na ochranu osobných údajov.

Zákazy však už platia a dotknuté osoby sa podľa Komisie môžu ich dodržiavania domáhať na súde vrátane predbežného opatrenia. Úrad na ochranu osobných údajov SR môže pri systémoch AI kontrolovať dodržiavanie pravidiel GDPR a pri veľmi veľkých online platformách má právomoci orgánu dohľadu nad trhom Komisia.

Firma preto nemôže čakať na slovenský zákon. Ak zakázanú praktiku používa, už porušuje AI Akt.

 

Systém AI, ktorý pod zákaz nespadá, môže byť vysokorizikový

Systém AI, ktorý nespadá pod zákaz, nie je automaticky bez povinností. Väčšina systémov AI, ktoré spadajú pod výnimky zo zákazov, je podľa Komisie vysokoriziková. Ide napríklad o rozpoznávanie emócií mimo pracoviska alebo rozpoznávanie tváre. Povinnosti pri vysokorizikových systémoch z prílohy III sa uplatňujú až od 2. decembra 2027.

Platí to však aj obrátene, vysokorizikový systém AI môže v konkrétnom prípade používať zakázanú praktiku. Ako systém AI zatriediť, vysvetľujeme v článku o rizikových kategóriách AI Aktu.

 

Tabuľka zhŕňa všetky zakázané praktiky

Zakázaná praktika	Čl. 5 ods. 1	Od kedy	Koho sa týka
Škodlivá manipulácia a klamanie	písm. a)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt
Využívanie zraniteľností	písm. b)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt
Sociálne bodovanie	písm. c)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt, aj súkromný sektor
Predvídanie trestných činov z profilu	písm. d)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt; firma najmä v mene polície alebo pri zákonnej povinnosti
Scraping tvárí do databáz	písm. e)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt
Rozpoznávanie emócií v práci a škole	písm. f)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt
Biometrická kategorizácia podľa citlivých znakov	písm. g)	2. 2. 2025	poskytovateľ, nasadzujúci subjekt
Biometrická identifikácia v reálnom čase	písm. h)	2. 2. 2025	iba nasadzujúci subjekt: polícia a kto koná v jej mene
Intímny materiál bez súhlasu	písm. ba)	2. 12. 2026	poskytovateľ, nasadzujúci subjekt
Materiál sexuálneho zneužívania detí	písm. bb)	2. 12. 2026	poskytovateľ, nasadzujúci subjekt

Ako vykonať audit zakázaných systémov AI

1. Spíšte systémy AI a ich funkcie. Compliance officer s IT spíše všetky systémy AI vrátane funkcií, ktoré sa dajú zapnúť (emócie, biometria, generovanie obrazu).
2. Preverte každý systém AI, či nespĺňa podmienky pre jednotlivé zákazy. Compliance officer s právnikom posúdi systémy AI podľa podmienok jednotlivých zákazov; pri HR nástrojoch a kamerách prizve zástupcov zamestnancov.
3. Zastavte používanie zakázaných praktík a zdokumentujte nápravu. Vedenie rozhodne o vypnutí funkcie alebo systému AI, compliance officer zapíše, čo firma urobila a kedy. Bezodkladne po zistení.
4. Upravte zmluvy s dodávateľmi a interné pravidlá. Doplňte do zmlúv zodpovednosť dodávateľa za systémy AI, ktoré používajú zakázané praktiky.
5. Zabezpečte generatívne nástroje na tvorbu obrazu, videa a zvuku. Ak ich firma ponúka alebo integruje, produktový tím zdokumentuje záruky a kanál na nahlasovanie zneužitia, a to o 2. decembra 2026.
6. Opakujte posúdenie pri každej zmene. Compliance officer posúdenie zopakuje pri novej funkcii alebo účele a systémy AI mimo zákazu zatriedi do rizikových kategórií. Pri prílohe III pred 2. decembrom 2027.

 

Časté otázky

Je deepfake podľa AI Aktu zakázaný?

Spravidla nie, deepfake však podlieha povinnosti transparentnosti podľa čl. 50 AI Aktu. Od 2. decembra 2026 bude pritom zakázaný intímny materiál identifikovateľnej osoby bez jej výslovného súhlasu. Označenie „deepfake“ však takýto súhlas nenahrádza. Naviac, klamlivý deepfake, ktorý ľudí zmanipuluje k pre nich nevýhodnému rozhodnutiu, bude už dnes spadať pod zakázanú praktiku.

Systém AI sme kúpili pred 2. februárom 2025. Vzťahujú sa naň zákazy?

Áno, dátum kúpy na zakázaných praktikách nič nemení. Ak váš systém AI pracuje s databázou tvárí spred 2. februára 2025, nesmiete ju ďalej rozširovať necielenou extrakciou a jej používanie musí byť v súlade s GDPR.

Môžeme používať rozpoznávanie tváre pri vstupe do budovy alebo v predajni?

Zákaz podľa čl. 5 ods. 1 písm. h) AI Aktu sa na vás spravidla nevzťahuje, lebo overenie totožnosti ani rozpoznávanie tváre vo vlastnom mene pod neho nespadajú. Inak je to, ak systém AI používate na základe poverenia polície alebo v jej mene, napríklad pri vstupe na futbalový štadión. Pred nasadením si však overte právny základ podľa čl. 9 GDPR.

Platí zákaz aj pre vývoj systému AI a open source?

Pri vývoji spravidla nie, pri open source modeli áno. Výskum, testovanie a vývoj systému AI pred uvedením na trh alebo do prevádzky sú mimo AI Aktu, okrem testovania v reálnych podmienkach. Výnimka pre bezplatné licencie s otvoreným zdrojovým kódom sa na zakázané praktiky nevzťahuje.

 

Zaveďte vo firme riadenú a bezpečnú AI

Firmy sa pri AI často ocitajú v jednom z dvoch extrémov. Buď AI nepoužívajú, lebo sa boja, čím strácajú konkurencieschopnosť, alebo ju používajú bez governance, teda bez pravidiel a zodpovedností, čím zase riskujú pokuty a nápravné opatrenia. My veríme v efektívnu, ale bezpečnú AI. Preto klientom pripravujeme AI Governance smernicu, ktorá okrem zakázaných praktík rieši celý systém riadenia AI vo firme. Ozvite sa nám.

Použité zdroje

• Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 (AI Act), najmä čl. 2, 3, 5, 99, 111 a 113 a odôvodnenia 28 a 31, Európska únia. http://data.europa.eu/eli/reg/2024/1689/oj
• Nariadenie Európskeho parlamentu a Rady (EÚ) 2026/1744 (Digital Omnibus), čl. 1 a odôvodnenia 10 až 13 a 32, Európska únia. http://data.europa.eu/eli/reg/2026/1744/oj
• Usmernenia Komisie o zakázaných praktikách využívajúcich umelú inteligenciu, C(2025) 5052 final z 29. 7. 2025, Európska komisia. https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
• Usmernenia Komisie k čl. 50 AI Aktu, C(2026) 5054 final z 20. 7. 2026, bod 25, Európska komisia. https://ai-act-service-desk.ec.europa.eu/sites/default/files/2026-07/guidelines_on_the_implementation_of_the_transparency_obligations_for_certain_ai_systems_under_article_50_of_the_ai_act_bzptwqhk0ikg1dtlddap41psfy_131215.pdf
• Regulatory framework for AI, Európska komisia. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• Article 5: Prohibited AI practices, Európska komisia, AI Act Service Desk. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5
• Market Surveillance Authorities under the AI Act, Európska komisia. https://digital-strategy.ec.europa.eu/en/policies/market-surveillance-authorities-under-ai-act
• Vládny návrh zákona o štátnej správe v oblasti umelej inteligencie a európskej dátovej regulácie a o zmene a doplnení niektorých zákonov (tlač 1447), Národná rada SR. https://www.nrsr.sk/web/Default.aspx?sid=zakony/zakon&ZakZborID=13&CisObdobia=9&CPT=1447
• Dôvodová správa k tlači 1447, Národná rada SR. https://www.nrsr.sk/web/Dynamic/DocumentPreview.aspx?DocID=596317
• Smernica Európskeho parlamentu a Rady 2011/93/EÚ, čl. 2 a 5, Európska únia. http://publications.europa.eu/resource/celex/32011L0093
• Provvedimento č. 574 z 1. 10. 2025 (ClothOff), Garante per la protezione dei dati personali. https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/10174164
• Dutch Supervisory Authority imposes a fine on Clearview because of illegal data collection for facial recognition, EDPB. https://www.edpb.europa.eu/news/dutch-supervisory-authority-imposes-a-fine-on-clearview-because-of-illegal-data-collection-for_en