19. okt 2026


AI Act sa netýka len organizácií, ktoré vyvíjajú vlastné modely. Stačí, že zamestnanci píšu e-maily v ChatGPT alebo máte na webe chatbota. Zvládnuť sa to dá vďaka právnym procesom a prividlám: jedna smernica, register nástrojov, schvaľovanie, školenia, ...

 

Týka sa vás to, aj keď AI len používate

Mnohé firmy, školy, obce aj nemocnice predpokladajú, že AI Act rieši až ten, kto vyvíja vlastný model. Zákon však rozlišuje viac rolí a najčastejšia z nich je nasadzujúci subjekt (deployer), teda organizácia, ktorá AI používa vo svojich procesoch. Patrí sem chatbot na webe, generatívna AI na texty, AI funkcia v CRM aj asistent napojený na firemnú poštu.

Rozhoduje pritom použitie, nie názov nástroja. Ten istý nástroj je pri preklade textu bežnou pomôckou a pri triedení životopisov už vysokorizikovým systémom. Prvým krokom je preto obyčajný súpis: čo organizácia reálne používa, kupuje alebo vyvíja a na aký účel.


Čo platí dnes a čo príde neskôr

AI Act je účinný od 1. augusta 2024. Od 2. februára 2025 platia zákazy neprípustných praktík a povinnosť podporovať gramotnosť v oblasti AI. Pravidlá pre modely AI na všeobecné účely (GPAI) sa uplatňujú od 2. augusta 2025 a povinnosti transparentnosti podľa čl. 50 od 2. augusta 2026.

Nariadenie (EÚ) 2026/1744, tzv. digitálny omnibus, posunulo termíny pre vysokorizikové systémy. Pre systémy podľa prílohy III, kam patrí napríklad nábor zamestnancov alebo posudzovanie úverovej bonity, sa povinnosti uplatnia od 2. decembra 2027. Pre AI v regulovaných výrobkoch podľa prílohy I až od 2. augusta 2028. Ak ste počuli, že všetko nabehne v auguste 2026, táto informácia už neplatí.

Odklad dáva viac času na prípravu, povinnosti však zostávajú. Už dnes by ste mali vedieť, aké AI nástroje používate, kto za ne zodpovedá a aké dáta do nich idú.

 

Najväčšie riziko: AI bez pravidiel a bez zodpovednej osoby

Problémy zvyčajne prichádzajú vtedy, keď sa AI dostane do procesov potichu. Jeden kolega v nej pripravuje zmluvy, iný ju napojí na interné dáta a ďalší ňou odpovedá klientom. Keď potom AI vyrobí chybný alebo diskriminačný výstup, nikto nevie, kto nástroj schválil, čo doň išlo a kto má situáciu riešiť.

Preto treba vopred určiť, kto pri probléme pozastaví používanie nástroja, kto komunikuje s dodávateľom a kto rozhodne, či sa nástroj znovu schváli alebo vyradí. Pri vysokorizikových systémoch to AI Act v čl. 26 vyžaduje výslovne: ľudský dohľad, monitoring, uchovávanie logov a spoluprácu pri incidentoch.

 

Ako to zvládnuť bez byrokracie

Lepšie ako jeden hrubý právny dokument funguje jednoduchý riadený proces. Základ tvoria štyri veci:
•    Interná smernica, ktorá určí roly, zakázané použitia a pravidlá pre dáta, generatívnu AI, transparentnosť a incidenty.
•    Prílohy a formuláre, napríklad registračná karta nástroja, schvaľovací formulár, kontrolný zoznam pre dodávateľa, formulár incidentu a záznam o školení.
•    Centrálny register, v ktorom evidujete, akú AI používate, na čo, v akej role, kto za ňu zodpovedá a kedy ju prehodnotíte.
•    Schvaľovanie pred prvým použitím. Každý nástroj prejde aspoň základným screeningom (čo robí, s akými dátami pracuje, koho sa dotkne) a citlivé prípady idú na hlbšie posúdenie.


Generatívna AI a osobné údaje

Väčšina organizácií vysokorizikovú AI nepoužíva. Ich každodennou realitou sú ChatGPT, Copilot a podobné nástroje na e-maily, zhrnutia, prezentácie a odpovede klientom. Pri nich potrebujete jasne určiť, aké údaje sa do nástroja smú vkladať, ktoré nástroje sú schválené a kto kontroluje výstupy pred zverejnením.

Ak AI pracuje s osobnými údajmi alebo vstupuje do rozhodovania o ľuďoch, rieši sa súčasne s GDPR, prípadne aj s čl. 22 GDPR o automatizovanom rozhodovaní. Pri každom nástroji si overte, kto je dodávateľ, kde sa dáta spracúvajú a či vstupy nepoužíva na tréning svojich modelov.

Transparentnosť podľa čl. 50 sa týka najmä chatbotov, pri ktorých musí byť zrejmé, že nejde o človeka, a deepfake obsahu. Text vygenerovaný AI a zverejnený na informovanie verejnosti treba označiť vtedy, ak zobrazuje realitu. Myslite na to, že výstup musí niekto skontrolovať a niesť zaň redakčnú zodpovednosť. 

 

Gramotnosť v oblasti AI: školenie podľa rolí

Čl. 4 AI Actu od 27. júla 2026 ukladá prijať opatrenia na podporu gramotnosti v oblasti AI u ľudí, ktorí s AI pracujú. Zákon nevyžaduje garantovať konkrétnu úroveň znalostí každého zamestnanca, musíte však vedieť preukázať, čo ste urobili. Najlepšie funguje školenie podľa rolí, pretože bežný používateľ potrebuje vedieť niečo iné ako personalista alebo človek, ktorý schvaľuje nové nástroje. Pridajte interné pravidlá a záznamy o účasti, bez nich nemáte dôkaz.

 

Aké sankcie hrozia

Za zakázané praktiky hrozí pokuta do 35 miliónov eur alebo 7 % celosvetového ročného obratu, podľa toho, čo je vyššie. Za porušenie väčšiny ostatných povinností, napríklad transparentnosti, je to do 15 miliónov eur alebo 3 % obratu a za nesprávne alebo zavádzajúce informácie úradom do 7,5 milióna eur alebo 1 %. Pri malých a stredných podnikoch sa uplatní nižšia z oboch hodnôt. V praxi však často viac bolí zastavený projekt a strata dôvery klientov.

 

Kde začať

Spíšte si, aké AI nástroje sa vo vašej organizácii už používajú, vrátane tých, ktoré si zamestnanci zaviedli sami. Rozdeľte ich na bežné a citlivé prípady a až potom riešte smernicu, registere a školenia. Sektorové a vysokorizikové požiadavky prídu na rad, keď viete, s čím pracujete. Ak pri tom potrebujete pomoc, ozvite sa nám.

Ing. Lukáš Maliniak

koordinátor AI