Prečo AI Act nestačí: 5 vecí, ktoré musíte vedieť o riadení umelej inteligencie vo vašej firme
Umelá inteligencia nie je len ďalším softvérovým updatom v poradí. Z pohľadu riadenia firmy ide o fundamentálnu zmenu. Mnohí CEO sa dnes spoliehajú na to, že prichádzajúca európska legislatíva – AI Act – vyrieši všetky právne, etické a bezpečnostné otázky za nich.
To je však viac ilúzia ako realita.
Predstavte si AI ako mimoriadne výkonný priemyselný stroj. Ak ho postavíte do výrobnej haly bez návodu na použitie, vyškolenej obsluhy a bezpečnostných opatrení, namiesto zisku vám spôsobí vo firme chaos. Samotný súlad s Nariadením AI je len povinným minimom. Skutočnú konkurenčnú výhodu získajú tie firmy, ktoré pochopia, že technológia je len taká dobrá, ako sú procesy, ktoré ju riadia.
AI Act je len začiatok, skutočným kľúčom je AI Governance Smernica
Z hľadiska technologického práva musíme rozlišovať medzi legislatívnym súladom (Compliance) a vnútorným riadením (Governance). Kým AI Act definuje hranice používania AI zvonku, AI Governance Smernica je „operačný systém“ vašej firmy, ktorý určuje, ako sa v týchto hraniciach efektívne a bezpečne pohybovať. Nie je to ďalší byrokratický predpis navyše, ale strategický dokument, ktorý mení AI z nepredvídateľného experimentu na spoľahlivý biznisový nástroj.
Základom riadenia AI vo firme je AI Smernica. Správne nastavené interné procesy vyžadujú, aby AISMernica obsahovala minimálne tieto požiadavky:
Stratégia a vízia AI – firma jasne určí dôvod, prečo AI používa a aký cieľ sa má jej používaním dosiahnuť (zvýšiť efektivitu a kvalitu, znížiť náklady, zvýšiť produktivitu).
Etické zásady používania – sú pravidlá, ktoré majú zabrániť nevhodným alebo škodlivým výsledkom z AI. Napríklad zásada férovosti (aby AI nediskriminovala určité skupiny), transparentnosti (informovanie o používaní AI).
Zásada zodpovednosti – definovať, kto nesie akú zodpovednosť. Firma bude vždy zodpovedná voči svojim zákazníkom, ale kto bude vo firme zodpovedný za AI? K tomu pomôže nastavenie rolí a zodpovedností.
Hodnotenie rizík AI – každý systém AI, zo svojej podstaty, môže byť rizikom pre zamestnancov, firmu alebo zákazníkov. Tieto riziká je potrebné vyhodnocovať a prijímať opatrenia na ich minimalizáciu.
Proces nasadenia novej AI – v AI Smernici často upravujeme aj proces nasadenia novej AI, a to od vzniku nápadu, cez proces rozhodovania, compliance (súlad s predpismi) až po jej technické nasadenia a kontrolu počas doby jej živnostnosti.
Monitorovanie a vyhodnocovanie – používanie AI nie je statické, ale dynamické. AI sa čase vyvíja a vyvíjajú sa aj spôsoby, ako zamestnanci prípadne zákazníci s AI pracujú. AI Officer preto monitoruje používanie AI, jej dopady, spoľahlivosť, incidenty a prebežne ich reportuje vedeniu spoločnosti.
Komunikácia smerom k zákazníkom a zamestnancom – firma, ktorá nasadila AI, musí informovať zákazníkov alebo zamestnancov o tom, že AI vstúpila do služieb (helpdesk) alebo že je používaná v súvislosti so zákazníkmi alebo zamestnancami.
Vaša firma potrebuje novú rolu – AI Officer
V prostredí, kde si každý zamestnanec môže „nainštalovať, čo chce“, vzniká pre firmu nekontrolovateľné riziko. Riešením je centralizovať zodpovednosť za AI v podobe AI Officera. Táto osoba netvorí prekážku inováciám, ale slúži ako garant bezpečného rastu, ktorý priamo reportuje vedeniu spoločnosti.
Kľúčové kompetencie a úlohy AI Officera zahŕňajú:
Definovanie prístupových práv: Jasne určuje, kto má oprávnenie systémy nastavovať a ktoré oddelenia ich môžu využívať na konkrétne účely.
Schvaľovanie a nasadenie: Riadi proces výberu dodávateľov a schvaľuje, ktoré systémy AI vôbec vstúpia do firemného prostredia.
Monitorovanie a incidenty: Neustále sleduje spoľahlivosť systémov, analyzuje anomálie a rieši prípadné bezpečnostné narušenia či chybné výstupy.
Zmierňovanie rizík: Na základe priebežného hodnotenia prijíma opatrenia na odstránenie hrozieb pre zamestnancov či reputáciu firmy.
HR a nábor ako „vysokoriziková“ umelá inteligencia od roku 2026
V oblasti ľudských zdrojov už AI dávno nie je hudbou budúcnosti, no od 2. augusta 2026 sa pravidlá pre tieto systémy AI značne sprísnia. Mnohé bežné HR nástroje – od filtrovania životopisov až po systémy na hodnotenie výkonu či rozhodovanie o povýšení – sa stanú „vysokorizikovými“.
Okrem nich sa stanú vysokorizikové aj iné systémy na príklad systém AI na diaľkovú biometrickú identifikáciu, na rozpoznávanie emócií alebo systémy AI v oblasti vzdelávania.
Pre firmu to znamená povinnosť zaviesť princíp Human-in-the-loop. Teda žiadne rozhodnutie AI nesmie byť konečné bez kontroly človekom (napr. vedúcim oddelenia). Zároveň vznikajú nové notifikačné povinnosti:
Právo na informácie: dotknuté osoby musia byť o použití AI informované (napríklad emailom alebo v rámci zásad spracúvania osobných údajov).
Právo na vysvetlenie: ak uchádzač nie je zaradený do výberového konania, má právo vedieť, akú rolu v tom zohrala AI a aké faktory ovplyvnili výsledok.
Právo dosiahnuť zmenu: ak o dotknutej osobe rozhodla AI, táto osoba má právo žiadať preskúmanie tohto rozhodnutia človekom.
Pasca menom „Vstupné dáta“: Čo do AI nikdy nedávať
Z hľadiska právnej zodpovednosti platí v prípade AI zásada – za škodu spôsobenú nevhodným vstupom alebo chybným výstupom zodpovedá vždy používateľ, resp. spoločnosť, ktorá systém nasadila. Mnohí zamestnanci si neuvedomujú, že vložením dát do verejných AI modelov k nim spoločnosť vyvíjajúca AI často získava široké práva na ich ďalšie použitie.
V rámci vašich interných pravidiel (AI Smernica) musia byť striktne zakázané tieto vstupy:
Autorské diela bez licencií: Akákoľvek grafika, texty či kód, ku ktorým firma nevlastní autorské práva.
Osobné údaje a profilovanie: Osobné údaje podliehajúce GDPR, pokiaľ ich spracúvanie nie je špecificky ošetrené v GDPR dokumentácií.
Obchodné tajomstvo a dôverné informácie: Všetko, čo je chránené mlčanlivosťou (strategické plány, klientske zoznamy, interné know-how).
Prichádza „Digital Omnibus“ – Termíny sa môžu meniť, ale nemusia
Hoci termíny pre vysokorizikové systémy AI sú nastavené na august 2026 (pre systémy podľa Prílohy III) a august 2027 (pre bezpečnostné komponenty výrobkov podľa Prílohy I), legislatívny proces v EÚ prináša dôležitú aktualizáciu. Európska komisia navrhla Nariadenie Digital Omnibus, ktoré môže tieto termíny o rok odložiť.
Cieľom tohto kroku nie je len poskytnúť firmám viac času, ale predovšetkým harmonizovať AI Act s ďalšími predpismi, ako sú GDPR, Data Management Act (DMS) či bezpečnostná smernica NIS2. Tento „Omnibus“ má zjednodušiť povinnosti firiem tak, aby sa jednotlivé regulácie navzájom neblokovali.
Napriek možným posunom v kalendári musí príprava začať už dnes. Odporúčaným nástrojom je vypracovanie tzv. AI Smernice – právne relevantného dokumentu, ktorý ešte pred nasadením technológie určí, pod ktoré predpisy vaša AI patrí a akú cestu posudzovania zhody (napr. notifikovanou osobou) bude musieť absolvovať.
Správne nastavená AI Governance nie je byrokratickou brzdou, ale strategickým odrazovým mostíkom. Umožňuje vašej spoločnosti inovovať s istotou, že každé nasadené riešenie je bezpečné, auditovateľné a v súlade s hodnotami firmy.
Máte vo svojej firme jasno v tom, kto nesie zodpovednosť za každú vetu vygenerovanú alebo rozhodnutie AI, alebo je vaša reputácia v rukách náhody a neriadených algoritmov?
Pomôžeme Vám s riadením AI, klasifikáciou ako aj dodržaním požiadaviek Nariadenia AI.
