Firmy nasadzujú AI rýchlo. Chatboty na zákaznícku podporu, AI na triedenie životopisov, nástroje na generovanie obsahu, automatizácia reportov. Výsledky sú viditeľné okamžite — ušetrený čas, znížené náklady, vyššia produktivita.
Problém je inde.
Väčšina firiem to robí bez jediného interného pravidla a bez požiadaviek AI Act. Bez toho, aby vedeli, kto za AI zodpovedá. Bez toho, aby mali pod kontrolou, čo do nej zamestnanci vkladajú. A bez toho, aby splnili čo i len základné požiadavky, ktoré im AI Act.
A to je kombinácia, ktorá môže firmu stáť oveľa viac ako len ušetrené hodiny.
Prečo AI bez governance nie je len právny problém
Predstavte si, že váš zamestnanec v zákazníckom servise začne používať ChatGPT. Vkladá do neho údaje o klientoch, aby rýchlejšie formuloval odpovede. Nikto mu to nezakázal. Nikto ho na to ani nepripravil. V praxi ide o GDPR problém – používanie osobných údajov s AI nie je zakázané, ale treba si aktualizovať GDPR dokumentáciu.
Medzitým sa v inej časti firmy HR oddelenie rozhodne filtrovať životopisy cez AI nástroj. Systém vyradí kandidátov podľa kritérií, ktoré nikto nenastavoval vedome. V praxi opäť potenciálny GDPR problém – automatizované rozhodovanie bez ľudského zásahu.
A o poschodie vyššie marketingové oddelenie generuje obsah pomocou AI, ktorú platí vlastnou kreditnou kartou, pretože firemná licencia „zatiaľ ešte nie je“. V praxi daňový a účtovný problém a potenciálne porušenie autorských práv.
Každá z týchto situácií je reálna – volá sa to Shadow AI. A každá z nich môže spôsobiť firme reputačnú škodu, únik dát, diskriminačné rozhodnutie a viesť až k pokute – a to nielen podľa AI Act ale aj podľa Nariadenia GDPR.
A žiadna z nich nie je výnimočná — sú to každodenné situácie v slovenských firmách v roku 2026.
Čo vám hrozí, ak AI governance nemáte
Od 2. februára 2025 platia prvé ustanovenia Nariadenia o AI (AI Act). Ide o povinnosť nepoužívať zakázané AI a povinnosť školiť a vzdelávať zamestnancov, ktorí pracujú s AI. Od augusta 2026 začnú platiť prísnejšie pravidlá pre vysokorizikové systémy AI — a sem spadajú napríklad nástroje na hodnotenie zamestnancov, filtrovanie životopisov na HR, biometrická identifikácia a mnohé iné.
Za porušenie hrozí pokuta až do výšky 35 miliónov EUR alebo 7 % z celosvetového obratu spoločnosti — podľa toho, čo je vyššie.
Ak by ste aj pokutu nedostali – nie ste v bezpečí. AI bez pravidiel znamená, že:
- zamestnanci vkladajú do externých AI nástrojov dôverné firemné informácie, údaje klientov, obchodné tajomstvá, nezverejnené kvartálne výsledky,
- firma nevie, ktoré AI nástroje vôbec používa a na čo,
- rozhodnutia prijaté cez AI nie sú zdokumentované ani kontrolované,
- zákazníci a zamestnanci nie sú informovaní o tom, že AI vstupuje do rozhodovaní, ktoré sa ich týkajú,
- v prípade škody alebo sťažnosti firma nevie preukázať, že konala zodpovedne
AI Governance: čo to vlastne je a prečo nestačí len „vedieť o“ AI Act
AI Act je povinné minimum. Ide o legislatívny rámec, ktorý určuje hranice používania AI a stanovuje povinnosti pri jej používaní. Ale samotný AI Act vám nepovie, ako AI bezpečne riadiť vo vnútri firmy a aké konkrétne požiadavky splniť pri ktorom AI nástroji.
Na to slúži AI Governance — interný systém pravidiel, zodpovedností a procesov, ktorý zabezpečí, že AI vo firme funguje predvídateľne, je kontrolovaná a v súlade s tým, čo od nej očakávate.
Ak AI Act prirovnáme k pravidlám cestnej premávky, AI Governance je interný predpis vašej firmy, ktorý AI Act uvádza do života a určuje, kto smie jazdiť, akým autom, na aké trasy a s akými povoleniami.
Na aké kroky pri budovaní AI Governance nezabudnúť
- Zmapujte, čo vaša firma reálne používa
Predtým, než začnete čokoľvek nastavovať, musíte vedieť, s čím pracujete. Väčšina firiem nemá centrálnu evidenciu AI nástrojov, ktoré zamestnanci používajú — vrátane tých, ktoré si platia sami.
Výsledkom mapovania by malo byť, že viete: aké AI nástroje používate, na aký účel, kto ich používa a aké dáta do nich vstupujú.
Takéto mapovanie môžete pokojne spraviť jednoduchým anonymným dotazníkom, ktorý pošlete Vašim zamestnancom. Po jeho vyplnení zistíte, aké AI nástroje už vaši zamestnanci skutočne používajú a na aké úlohy.
- Zatrieďte AI nástroje podľa rizikovosti
Nie každý AI nástroj nesie rovnaké riziko. AI Act rozdeľuje systémy AI do štyroch kategórií — od zakázaných praktík, cez vysokorizikové systémy až po nástroje s limitovaným a minimálnym rizikom.
Zatriedenie rozhoduje o tom, aké povinnosti pre vás platia. Iné pravidlá platia pre chatbota na webstránke a iné pre AI, ktorá pomáha rozhodovať o prijatí zamestnanca.
Okrem toho je potrebné zistiť, v akom postavení je vaša firma, keď používa AI nástroje. Môžete byť v postavení poskytovateľa AI (provider) alebo nasadzujúceho subjektu (deployer), prípadne môžete byť distribútor alebo dovozca. Od tohto sa odvíjajú aj povinnosti, ktoré musíte splniť.
- Určte, kto je za AI zodpovedný
Bez jasnej zodpovednosti sa nestane nič. Niekoho treba určiť za AI Officer — osobu, ktorá dohliada na to, aké AI systémy firma používa, ako sú nastavené a či sú v súlade s pravidlami.
V menších firmách túto rolu môže zastávať aj existujúci zamestnanec. Dôležité je, aby zodpovednosť bola nastavená a nebola rozptýlená medzi všetkých — a teda fakticky nezodpovedal nikto.
- Nastavte pravidlá pre zamestnancov
Zamestnanci potrebujú vedieť, čo smú a čo nesmú. Interná AI smernica by mala pokrývať aspoň tieto oblasti:
- aké AI nástroje sú schválené a kto ich môže používať,
- čo do AI nástrojov nesmie vstupovať – osobné údaje klientov, dôverné informácie, obchodné tajomstvo, zdrojový kód, autorsky chránené diela,
- kto schvaľuje zavedenie nového AI nástroja – štandardne konateľ, riaditeľ alebo osobitná AI komisia,
- kto, či a ako kontroluje výstupy AI pred ich použitím tzv. human-in-the-loop, human-on-the-loop,
- incident manažment – ako postupovať pri probléme alebo incidente (únik dát, bias, diskriminácia).
- Zabezpečte, aby AI nerozhodovala sama
Pre určité kategórie rozhodnutí, napríklad v HR, pri hodnotení klientov alebo v oblastiach, kde ide o práva fyzických osôb, vyžaduje AI Act princíp human-in-the-loop alebo human-on-the-loop. To znamená, že žiadne rozhodnutie AI nesmie byť konečné bez ľudskej kontroly. Každé rozhodnutie AI musí podliehať ľudskej kontrole.
Toto nie je len legislatívna povinnosť. Je to aj ochrana firmy pred chybami, ktoré AI robí s oveľa väčšou istotou ako človek.
- Vzdelávajte a škoľte zamestnancov, ktorí pracujú s AI
AI stále nie je dokonalá a robí množstvo chýb, napríklad halucinuje – vymýšľa si odpovede a dáta, ktoré neexistujú.
Vnímajte AI ako nástroj, ako počítač alebo program, ktorý má svoje nedostatky, a naučte svojich zamestnancov, aké sú limity AI, kde robí chyby, ako ju kontrolovať. Ale najmä – naučte ich používať AI kriticky nie automaticky.
- Informujte zákazníkov a zamestnancov
Ak AI vstupuje do procesov, ktoré sa týkajú vašich zákazníkov alebo zamestnancov, musia o tom vedieť. Zákazník, ktorého žiadosť hodnotí AI systém, má právo na informáciu, vysvetlenie a možnosť žiadať preskúmanie rozhodnutia človekom.
Ignorovanie tejto povinnosti je jednou z najčastejších chýb a zároveň najľahšie odstrániteľných.
- Monitorujte a priebežne aktualizujte
AI Governance nie je jednorazový projekt. AI systémy sa menia, regulácia sa vyvíja, zamestnanci menia spôsob práce. Pravidlá, ktoré platili dnes, nemusia byť dostačujúce o šesť mesiacov.
Nastavte si pravidelný cyklus kontroly — minimálne raz ročne, ideálne po každej väčšej zmene v systéme alebo legislatíve.
Kde začať, ak dnes nemáte nič
Najčastejšia otázka, ktorú dostávame, je: kde začať, keď firma dosiaľ AI governance neriešila vôbec a nemá žiadnu AI smernicu?
Odpoveď je jednoduchá — začnite zmapovaním a AI smernicou. Nie perfektným dokumentom, ale funkčným dokumentom. Niečo, čo existuje, na čo sa zamestnanci môžu odvolať a firma spoľahnúť.
Tým urobíte 80 % práce. Zvyšných 20 % — formálna compliance, posúdenie zhody, GDPR dokumentácia — príde ako ďalší krok.
Dôležité je nepodceňovať tento prvý krok a neodkladať ho, pokým nebude správny čas. Ten správny čas je teraz.
Ak si nie ste istí, kde vaša firma stojí v oblasti AI governance, radi vám pomôžeme – kontaktný formulár. Prvý krok je bezplatný úvodný audit – zistíte, čo máte, čo vám chýba a čo riešiť ako prvé. Ako pomôcku si stiahnite náš online formulár, ktorý Vám pomôže identifikovať akú AI používate a aké povinnosti sú s ňou spojené.
