16. okt 2026

 

Umelá inteligencia sa v súčasnosti stala bežnou súčasťou pracovného dňa. Šetrí čas pri písaní textov, analýze dát či programovaní, no zároveň poskytuje útočníkom nové možnosti na útoky. Ak organizácia nenastaví pravidlá včas, AI začne používať „každý po svojom“ – a práve tam vznikajú najväčšie riziká.

Prvým z nich je takzvaná shadow AI, teda AI nástroje, ktoré zamestnanci používajú bez vedomia a schválenia IT oddelenia. Môže ísť o súkromný účet v chatbote, online prekladač alebo rozšírenie prehliadača. Zamestnanec chce len rýchlejšie spracovať zmluvu, zhrnúť e-mail alebo opraviť kód, a tak do nástroja vloží dôverné informácie. Firma potom nevie, kde jej dáta skončili, kto k nim má prístup a či ich poskytovateľ nepoužije na trénovanie modelu. Následkom môže byť únik obchodného tajomstva, porušenie GDPR a pokuty, s ktorými nikto nepočítal.


Riziko však nespočíva len v tom, aké nástroje používame, ale aj v tom ako v nich pracujeme. Moderní AI asistenti dokážu pracovať so skillmi – balíčkami inštrukcií, skriptov a súborov, ktoré im pridávajú nové schopnosti, napríklad prácu s tabuľkami alebo napojenie na firemný systém. Skilly sa dajú stiahnuť z internetu alebo zdieľať medzi kolegami podobne ako kedysi makrá v Office. Škodlivý skill môže obsahovať skryté pokyny či kód, ktorý prečíta citlivé súbory a odošle ich útočníkovi. Keďže ho AI vykoná s právami používateľa, bezpečnostné nástroje ho často vnímajú ako bežnú prácu. Skilly je preto potrebné posudzovať ako akýkoľvek iný softvér a inštalovať ich len z overených zdrojov.


Ešte väčšia opatrnosť je na mieste pri AI agentoch. Na rozdiel od bežného chatbota agent neodpovedá len na otázky, ale samostatne koná – číta e-maily, otvára webstránky, upravuje súbory, posiela správy alebo zadáva objednávky. Čím viac práv a prepojení má, tým väčšiu škodu môže spôsobiť, ak sa pomýli alebo ho niekto zmanipuluje. Typickými slabými miestami sú príliš široké oprávnenia, prihlasovacie údaje uložené priamo v agentovi, nevratné akcie bez potvrdenia človekom a chýbajúci záznam o tom, čo agent v skutočnosti urobil.


Najznámejším spôsobom, ako agenta alebo chatbota zneužiť, je prompt injection. Útočník pri ňom podstrčí AI vlastné pokyny – buď priamo, zadaním špeciálne formulovaného textu, alebo nepriamo, ukrytím pokynov do e-mailu, dokumentu či webstránky, ktorú AI spracuje, napríklad ako biely text na bielom pozadí. Model ich nevie spoľahlivo odlíšiť od legitímneho zadania, a tak môže preposlať dôverné dokumenty, zmeniť číslo účtu vo faktúre alebo vložiť do odpovede podvodný odkaz. Pri agentoch, ktorí majú súčasne prístup k dátam aj možnosť odosielať správy, ide o jedno z najvážnejších rizík súčasnosti.

Ako sa teda nestať obeťou?

Plný zákaz AI nefunguje, pretože zamestnanci si cestu k nástrojom aj tak nájdu. Účinnejšie je ponúknuť im bezpečné, schválené riešenia a jasné pravidlá. Základom je zadefinovať procesy v internej smernici o používaní AI: ktoré nástroje sú povolené, aké dáta do nich smie zamestnanec vkladať, kto schvaľuje nové nástroje, skilly a agentov a ako hlásiť bezpečnostný incident. Na smernicu nadväzuje analýza rizík, ktorá pre každé použitie AI posúdi, k akým dátam a systémom má prístup, čo sa môže pokaziť a aké opatrenia riziko znížia – minimálne práva, schvaľovanie kritických krokov človekom a logovanie činnosti. Takáto analýza je zároveň súčasťou riadenia rizík podľa zákona o kybernetickej bezpečnosti.

Ak AI spracúva osobné údaje vo väčšom rozsahu alebo novým spôsobom, GDPR vyžaduje vypracovať posúdenie vplyvu na ochranu osobných údajov (DPIA). To pomenuje účel a právny základ spracúvania, riziká pre dotknuté osoby aj prijaté opatrenia a dobre dopĺňa povinnosti vyplývajúce z AI Actu. Ani najlepšie dokumenty však nepomôžu bez budovania povedomia zamestnancov. Pravidelné školenia s praktickými príkladmi by mali vysvetliť, čo do chatbotov nevkladať, ako rozpoznať podozrivý výstup AI a prečo neinštalovať neoverené skilly. Zabezpečenie AI gramotnosti zamestnancov je navyše od februára 2025 povinnosťou podľa AI Actu.

Najlepšou ochranou je teda kombinácia technických opatrení, jasných pravidiel a poučených ľudí. Umelá inteligencia má byť pomocníkom pod kontrolou – nie nekontrolovanou bránou do firmy.
 

RNDr. Daniel Schikor

manažér kybernetickej bezpečnosti