V decembri 2025 vydal Ústavný súd ČR uznesenie, ktorým uložil pokutu advokátovi za to, že v podaní uviedol 12 rozhodnutí Ústavného súdu ČR a ESĽP, ktoré buď neexistovali alebo boli hrubo dezinterpretované. Podanie advokáta bolo pritom s najväčšou pravdepodobnosťou pripravené AI, pretože obsah aj forma zodpovedali výstupom z AI. Aj týmto prípadom vie zabrániť AI Governance – riadenie umelej inteligencie.
Nejde pritom o ojedinelý exces. Verejne dostupná databáza, ktorú vedie výskumník Damien Charlotin (HEC Paris), evidovala v polovici roka 2026 už vyše 1 300 súdnych konaní vo viac ako stovke krajín, v ktorých strana predložila súdu AI-vygenerované fiktívne citácie alebo skreslené citácie zo skutočných rozhodnutí – takmer 500 z nich sa týkalo licencovaných advokátov.
Ide o príklad javu, ktorý sa v odbornej literatúre a v regulácii označuje ako automation bias. Netýka sa pritom len advokátov. Výskumníci z MIT Media Lab v roku 2026 zistili, že aj bežní ľudia, ktorí sa pri overovaní pravdivosti správ štyri týždne spoliehali na AI asistentov (vrátane Claude a ChatGPT), sa v samostatnom rozpoznávaní dezinformácií napokon zhoršili.
Automation bias je teda univerzálna ľudská tendencia. Vo firme, ktorá AI nasadzuje ako súčasť pracovného procesu, však môže mať vážne dôsledky.
Čo je automation bias a prečo je dôležité ho poznať
Automation bias je kognitívne skreslenie. Človek pri ňom nadmerne a nekriticky dôveruje výstupu AI systému, a to aj vtedy, keď je výstup nesprávny alebo v rozpore s dostupnými informáciami.
Automation bias sa prejavuje sa v dvoch typických podobách:
- chyba konania, kedy človek prevezme nesprávne odporúčanie AI a koná podľa neho, hoci existujú dôkazy svedčiace o opaku (presne toto sa stalo advokátovi z úvodu); alebo
- chyba opomenutia – človek si nevšimne problém, pretože ho naň systém AI neupozornil v domnienke, že keby nebolo niečo v poriadku, systém AI by ho určite upozornil.
Dnes je automation bias priamo súčasťou regulácie. AI ACt (Nariadenie o umelej inteligencii) v článku 14 upravuje ľudský dohľad nad vysokorizikovou AI. Poskytovateľ takéhoto systému musí zabezpečiť, aby osoba vykonávajúca dohľad rozumela možnostiam a limitom systému AI, uvedomovala si riziko automatického alebo nadmerného spoliehania sa na jeho výstup, správne interpretovala výstup, mala možnosť ho v konkrétnej situácii odmietnuť alebo zmeniť. Regulátor tak výslovne priznáva niečo, čo firmy často podceňujú, a to, že samotná prítomnosť človeka ešte nezaručuje reálnu kontrolu.
Prečo AI nekriticky dôverujeme
Príčiny sú vždy kombináciou troch rovín, ktoré sa navzájom posilňujú a ovplyvňujú.
Psychologická rovina. Prirodzená tendencia presunúť náročnú mentálnu prácu na nástroj (tzv. cognitive offloading). Pri AI chatbotoch sa prehlbuje tým, že namiesto čiastkových krokov ponúkajú rovno hotovú a zdanlivo správun odpoveď. K tomu sa pridáva tzv. heuristika plynulosti, teda sebavedomo a gramaticky bezchybne formulovaný text pôsobí dôveryhodnejšie bez ohľadu na to, či je vecne správny alebo nie. Efekt sa preukázateľne zosilňuje pri časovom tlaku, multitaskingu a vysokej pracovnej záťaži, keď rýchle heuristické uvažovanie nahrádza pomalšie analytické.
Dizajnová rovina. Väčšina bežne dostupných AI asistentov prezentuje odpovede sebavedomo bez ohľadu na to, či ide o overený fakt, alebo o štatisticky najpravdepodobnejšie no nepodložené informácie. Ak systém AI neposkytuje používateľovi zdroje ani mieru istoty, používateľ nemá na čom postaviť kritické zhodnotenie a musí odpoveď buď prijať, alebo odmietnuť ako celok.
Organizačná rovina. Firemná kultúra orientovaná na výkon a KPI odmeňuje rýchlosť spracovania úloh viac ako dôslednosť a správnosť. Ak organizácia jasne nedefinuje, ktoré rozhodnutia môže AI robiť samostatne, ktoré len s ľudským schválením a ktoré vôbec nie, vzniká priestor na tichý presun zodpovednosti na systém, a to bez toho, aby si to ktokoľvek vo firme uvedomil.
Kde sa s tým stretávame najčastejšie?
Právne a poradenské služby
Prípad advokáta z úvodu nie je výnimkou ale exemplárnym príkladom. Viaceré americké odvolacie súdy nedávno jasne konštatovali, že žiadne podanie na súde by nemalo obsahovať citáciu, ktorú advokát osobne neprečítal a neoveril.
Na týchto príkladoch je jasne vidieť nedostatky AI pri práci s právnymi textami, bez ohľadu na to, či ide o zákony, rozhodnutia súdov alebo odbornú literatúru. Systémy AI sú viac štatistickými nástrojmi ako skutočnou inteligenciou, čo značne limituje kvalitu ich výstupov v komplexných oblastiach, ako sú právo, daňové poradenstvo, medicína a pod.
Čo z toho vyplýva? V prvom rade, AI nie je advokátom, daňovým poradcom a ani lekárom. Spoliehať sa na AI v rámci vysoko odborných odvetví je risk, ktorý sa skôr či neskôr prejaví.
V druhom rade, každý výstup z AI musí byť skontrolovaný človekom, ktorý danej problematike rozumie. Rovnaké pravidlo platí pre akékoľvek analýzy, podklady alebo návrhy, ktoré vaša firma či jej externí poradcovia generujú pomocou AI a ktoré následne používate pri zmluvách, rozhodnutiach alebo komunikácii navonok.
AML/KYC
Analogické riziko horzí aj v oblasti AML/KYC. AI systémy dnes bežne generujú upozornenia a hodnotia transakcie v rámci AML/KYC previerok. Ak zamestnanec bez reálnej kontroly mechanicky potvrdzuje alebo zamieta vygenerované upozornenia, fakticky prenáša rozhodovaciu právomoc na systém AI. Formálne síce zostáva zodpovedný on, ale skutočné rozhodnutia robí systém AI sám.
V našej praxi s klientmi sa čoraz častejšie preto stretávame s otázkou, ako vie firma preukázať dozornému orgánu, že jej ľudský dohľad nad AML monitoringom je reálny, a nie len formálny podpis pod automaticky vygenerovaný záver. Pri kontrole zo strany dozorného orgánu totiž neobstojí argument, že upozornenie ne/schválil systém AI. Zodpovednosť totiž nesie firma, ktorá má povinnosť robiť AML/KYC.
Nábor a hodnotenie zamestnancov
Podobne to funguje aj s AI nástrojmi na výber uchádzačov o prácu. Aj pri týchto AI nástrojoch majú HR oddelenia v praxi tendenciu uprednostniť odporúčanie od AI pred dôkladným preskúmaním jeho správnosti. Na AI používanú pri nábore alebo hodnotení zamestnancov sa pritom vzťahujú aj pravidlá článku 22 GDPR o automatizovanom rozhodovaní, ktorým sme sa podrobnejšie venovali v samostatnom článku. Právo na ľudský zásah, ktorý je vyžadovaný pri takýchto systémoch je však úplne vylúčené presne vtedy, keď je tento ľudský zásah len formálny.
K uvedenému sa pridáva aj ďalšie riziko. Zamestnanci, ktorí prestanú vykonávať úlohy, ktoré vykonáva AI, postupne strácajú schopnosť tieto úlohy plniť a aj ich vyhodnocovať. Tým sa oslabuje práve ľudská expertíza, ktorá má slúžiť ako poistka.
Ako sa brániť
Samotné poučenie zamestnancov o existencii automation bias má podľa výskumu len obmedzený účinok. Funkčná prevencia pred automation bias má 3 vrstvy: AI governance, diajn a školenia.
AI Governance
Ide o internú smernicu alebo politiku, ktorá, okrem iného, rozdeľuje rozhodnutia do 4 úrovní:
- plne automatizované ;
- AI odporúčanie + ľudské schválenie ;
- AI len ako asistencia + ľudský úsudok; a
- AI vylúčená z rozhodovania.
S tým súvisí aj pridelenie zodpovednosti za výsledné rozhodnutie konkrétnej osobe alebo funkcii. Nikdy sa totiž nesmie stať, že za rozhodnutie systému AI nebude nikto niesť jasnú zodpovednosť.
Presne vymedzené prípady, kde je použitie AI vo firme vylúčené, napr. finálne rozhodnutie o ukončení pracovného pomeru, spracúvanie osobitných kategórií osobných údajov, zmluvy alebo súdne podania.
Dizajn
Systémy AI by mali byť vytvorené tak, aby zobrazovali, ako sú si isté svojím výstupom. Samozrejme tam, kde je to technicky možné.
Zámerný krok na viac pred tým, ako sa prevezme výstupu z AI. Napríklad pravidlo, že žiadna citácia, číslo alebo tvrdenie z AI sa nepoužije bez overenia zdroja.
Pri dôležitých alebo kritických rozhodnutiach nastaviť povinné krátke písomné zhrnutie dôvodov pred potvrdením výstupu alebo rozhodnutím.
Chovávanie každého rozhodnutia podporeného AI pre neskorší audit.
Ľudia a školenie
Pravidelné školenia o limitoch a spôsoboch zlyhania konkrétnych nástrojov, ktoré firma reálne používa. Nemáme teraz na mysli bežné generické AI školenia, ale školenia zamerané na konkrétne systémy a nástroj, ktoré firma používa.
Namátkové kontroly vykonané napríklad tak, že sa kontrolujúcej osobe zámerne vloží nesprávny výstup. Tým overujeme, či kontrolujúca osoba skutočne výstupy číta a kontroluje.
Spätná väzba medzi zisteniami kontrol a úpravou smernice aj samotného procesu.
Ak vaša firma v najbližších mesiacoch pripravuje interné AI usmernenia (AI Governance) alebo AML/HR dokumentáciu, oplatí sa do nej zakomponovať rozdelenie rozhodnutí podľa miery ľudského zásahu.
Zhrnutie
Automation bias je psychologicky preskúmaný jav a dnes už aj súčasťou regulácie. AI Act výslovne uvádza, že prítomnosť človeka pri AI rozhodovaní ešte nezaručuje skutočnú kontrolu. Vo firemnom prostredí sa dôsledky prejavujú ako konkrétne, kvantifikovateľné riziko v podobe sankcií, compliance zlyhania, AML/KYC nedostatkov, nesprávnych HR rozhodnutí.
Podstatné je tento jav poznať a vyhnúť sa jeho dôsledkom.
Pre firmy nasadzujúce AI vo vysokorizikových oblastiach to od decembra 2027 nebude len odporúčanie dobrej praxe, ale priama zákonná povinnosť.
Ak už používate AI, kontaktujte nás a my Vám spravíme bezplatný AI Act audit. Zistite, kde máte riziká a nedostatky. Nedostatky a riziká odstránime prostredníctvom AI Governance – AI smernicou na riadenie umelej inteligencie.
