Označovanie AI kódu podľa AI Aktu - Legalion: Advokátska kancelária

Naši klienti, ktorí vytvárajú digitálne aplikácie, webové stránky alebo akýkoľvek iný softvér prišli so zaujímavou otázkou: „Musí firma, ktorá vytvára softvér pomocou AI označiť svoj zdrojový kód, že bol vytvorený (celý alebo z časti) umelou inteligenciou?“

Čo je povinnosť transparentnosti (označovanie výstupov z AI)

Podľa čl. 50 ods. 2 AI Aktu je poskytovateľ systému AI, ktorý generuje zvuk, obraz, video alebo text, povinný výstup z tohto systému označiť, že bol vytvorený alebo upravený pomocou AI. Takéto označenie pritom musí byť strojovo čitateľné. Táto povinnosť platí od 2. augusta 2026.

Z čl. 50 ods. 2 AI Aktu sa teda zdá, že aj zdrojový kód, ktorý je vo svojej podstate textový výstup, musí poskytovateľ AI označiť, že bol vytvorený alebo upravený umelou inteligenciou.

Komisia k povinnosti transparentnosti podľa čl. 50 AI Aktu prijala usmernenia, aby vysvetlila, ako túto povinnosť chápať.

Podľa tohto usmernenia pritom platí, že zdrojový kód je vyňatý z rozsahu čl. 50 ods. 2 AI Aktu. Podľa Komisie to znamená, že obsah v programovacom, skriptovacom, značkovacom, dotazovacom alebo konfiguračnom jazyku, ktorý počítač vykoná alebo interpretuje nie je potrebné označiť, že bol vytvorený alebo upravený AI. Výslovne sem patria aj SDK, SQL, infrastructure-as-code, YAML, konfigurácie vo formáte JSON, API a softvérové knižnice. Vylúčené by mali byť aj komentáre, ktoré tvoria integrálnu súčasť kódu.

Inak povedané, kód nespadá do rozsahu čl. 50 ods. 2. AI Aktu a poskytovateľ AI teda nie je povinný takýto kód označiť, že bol vytvorený alebo upravený pomocou AI. Usmernenie je však nezáväzné, pričom záväzný výklad AI Aktu môže podať iba Súdny dvor EÚ. Pri svojom závere však bude vychádzať, okrem iného, aj z tohto usmernenia.

Koho sa povinnosť označovať týka

Povinnosť označiť výstup zo systému AI podľa čl. 50 ods. 2 AI Aktu nesie iba poskytovateľ. Teda ten, kto systém AI vyvinul alebo si nechal vyvinúť a uvádza ho na trh alebo do prevádzky pod vlastným menom. Firma, ktorá hotový nástroj používa, je nasadzujúci subjekt. Na nasadzujúci subjekt sa táto povinnosť označiť výstup z AI strojovo čitateľným spôsobom nevzťahuje. Nasadzujúci subjekt má však inú povinnosť. Musí označiť iba výstup z AI, ktorý je deepfake. A to nie strojovo čitateľným spôsobom, ale spôsobom, aby to videl a pochopil každý, kto sa k takému obsahu dostane.

Kedy sa z firmy stane poskytovateľ AI

Aj nasadzujúci subjekt sa môže stať poskytovateľom AI. Poskytovateľom sa firma stane, ak upraví generatívny systém AI iného poskytovateľa, napríklad doplní trénovacie dáta, uvedie ho do prevádzky pod vlastným menom alebo ochrannou známkou, alebo podstatne zmení jeho zamýšľaný účel a systém sa stane vysokorizikovým. To isté platí, ak vyvinie vlastný generatívny systém AI, uvedie ho do prevádzky pod svojím menom a sama ho používa. Pri textových, obrazových, zvukových a video výstupoch takého systému potom poskytovateľ musí splniť povinnosť transparentnosti a obsah strojovo čitateľne označiť.

Za porušenie čl. 50 AI Aktu pritom hrozí pokuta do 15 miliónov EUR alebo do 3 % celosvetového ročného obratu, podľa toho, čo je vyššie. Pri malých a stredných podnikoch, vrátane start-upov platí nižšia z oboch súm.

Dokumentácia a vysvetľujúci text mimo kódu

Bod 68 usmernenie Komisie hovorí, že povinnosť označovať výstup z AI sa netýka kódu a komentárov, ktoré sú jeho súčasťou. K súboru README, samostatnej dokumentácii a vysvetľujúcemu textu mimo kódu sa usmernenia nevyjadrujú. Podľa nášho názoru sa preto na ne povinnosť označovať výstup z AI pravdepodobne vzťahuje. Do ustálenia výkladu čl. 50 ods. 2 AI Aktu preto odporúčame posudzovať tieto texty osobitne.

Nasadzujúci subjekt musí označiť text podľa čl. 50 ods. 4 AI Aktu iba vtedy, ak ho zverejní s cieľom informovať verejnosť o veciach verejného záujmu. Technická dokumentácia k softvéru takým textom však spravidla nie je. Preto nasadzujúci subjekt nemusí označiť technickú dokumentáciu k softvéru, že bola vytvorená pomocou AI.

Časté otázky

Musíme do repozitára pridať poznámku, že kód vytvorila AI?

Nie, AI Akt to pri zdrojovom kóde nevyžaduje, keďže na kód sa čl. 50 ods. 2 AI Aktu nevzťahuje. Poznámku však môže vyžadovať README dokumentácia, zmluva so zákazníkom alebo interná politika firmy, ktorá je pripravená pomocou AI.

Stane sa z nás poskytovateľ, ak zamestnanci používajú AI nástroj tretej strany?

Nie. Poskytovateľ systém AI vyvíja alebo si nechá vyvinúť a uvádza ho do prevádzky pod vlastným menom. Zamestnanci, ktorí nástroj používajú na pokyn firmy, konajú za firmu, ktorá je nasadzujúcim subjektom.

Je potrebné označiť aj komentáre v kóde?

Nie, ak tvoria integrálnu súčasť kódu. Samostatná dokumentácia mimo kódu by však označená mala byť.

Platí čl. 50 AI Aktu už teraz?

Áno, od 2. augusta 2026. Prechodné obdobie do 2. decembra 2026 sa týka iba strojového označovania podľa ods. 2 u systémov uvedených na trh pred týmto dňom.

AI Audit – Posúdenie AI nástrojov a Vášho postavenia

Pokiaľ ešte nemáte AI nástroje rozdelené podľa rizikovosti a nepoznáte svoje postavenie, neviete, aké povinnosti sa na Vás vzťahujú, a či vôbec nejaké povinnosti máte. Ak máte záujem o právny AI audit Vašich AI nástrojov alebo o prípravu interných pravidiel používania AI, kontaktujte nás.