Rozhovor s etickým hackerom Danielom Hejdom.

Umelá inteligencia už dávno nie je len nástroj na zvyšovanie efektivity – stáva sa aktívnym hráčom v kybernetickom priestore. S nástupom AI agentov, ktorí dokážu samostatne konať v systémoch organizácií, sa mení aj povaha kybernetických hrozieb. Etický hacker Daniel Hejda bude na Jarnej ITAPA 2026 hovoriť aj o tom, ako sa z užitočného digitálneho asistenta môže stať autonómny útočný prvok a prečo je už dnes kľúčové AI nielen nasadzovať, ale ju aj vedieť kontrolovať.

AI agenti dostávajú prístup k informačným systémom, dátam aj rozhodnutiam. Neopakuje sa scenár „move fast first, secure later“, ktorý už v minulosti vytvoril obrovské bezpečnostné dlhy?

Kedysi sme bezpečnostný dlh vytvárali, keď sme museli urobiť napríklad presun do online priestoru z dôvodu tzv. remote work, čiže práce na diaľku, alebo pri migrácii do cloudového prostredia, aby sme optimalizovali cenu za prevádzku IT infraštruktúry. Kedysi bolo možné zaistiť bezpečnosť oveľa ľahšie a, bohužiaľ, s ohľadom na čas, sa to mnohým organizáciám nepodarilo. Jedným z faktorov bola skutočnosť, že nebol dostatok špecialistov, ktorí by dokázali primerane posúdiť riziká a vyhodnotiť, či neprišlo k expozícii perimetra. Pri využívaní AI je problém o niečo väčší, pretože iba málokto si dokáže uvedomiť skutočné hrozby AI a verejne sa komunikuje množstvo právd i neprávd. Niektoré riziká sa ukážu až časom a ani vzdelaní špecialisti si často neuvedomujú, čo sa skutočne môže stať, kde sa AI naučí, ako sa otvárajú brány bezpečnosti v kontexte použitých AI agentov. Organizácie si často myslia, že práve AI agenti im ušetria náklady, vytvoria veľmi rýchle produkty a automatizáciu a umožnia im získať viac voľného času. Myslím si, že niektorí si tieto riziká uvedomujú, ale skratkovitý režim ich presvedčí, aby akceptovali súvisiace riziká, avšak neuvedomujú si, že rozhodnutie AI sa bude vždy prisudzovať danému používateľovi. Dnes by mal viac ako kedykoľvek predtým platiť prístup neet-to-know – nielen v kontexte používateľa, ale aj v kontexte AI agenta. Problém je však v tom, že za dáta a oprávnenia k nim zodpovedajú používatelia, aj keď si často myslia, že to IT oddelenie nejako vyrieši a toto IT je schopné často aj prijať zodpovednosť za nastavenie systémov, aj keď je zodpovednosťou používateľov a manažmentu, aby nastavili hranice prístupnosti dát a možnosti ovládať systémy.

Nevytvárame si najnebezpečnejšieho insidera v histórii IT?

Áno, určite to tak je. AI agenti sú iba stroje a ak nemajú dostatočné guardrails (ochrany v systémoch pri spracovaní vstupu a výstupu), tak môže prísť k tomu, že nejaký navštívený web ovládne agenta pomocou promptu (príkazu), ktorý je súčasťou stránky, a pritom nemusí byť na internetovej stránke ani vidieť. AI agent pristupuje k internetovým stránkam programovo a ak je v kóde stránky nejaký komentár a AI agent ho prečíta, tak sa môže stať, že ho pokojne vykoná, a tým zmaže buď vlákno v chat botovi alebo napríklad vykoná danú operáciu v kontexte počítača. Napríklad by mohol dostať pokyn, aby našiel súbor s heslami v počítači, a tie potom pošle do nejakej služby ako pastebin alebo podobnej, čím nevedomky dochádza k exfiltrácii údajov. Bohužiaľ, o takejto operácii sa používateľ ani nedozvie. Treba však neustále myslieť na to, že dátový prenos sa uskutočnil v relácii používateľa, z IP adresy používateľa a podľa všetkých dostupných záznamov sa pravdepodobne vždy usúdi, že to urobil priamo používateľ, aj keď aktivitu vykonal autonómny AI agent. V podstate sa to zhoduje s modelom autonómneho riadenia áut, kde vodič zodpovedá za to, čo urobí autonómne vozidlo (napríklad keď zrazí chodca). Pri vozidlách si hrozbu uvedomujeme oveľa viac než pri používaní autonómnych AI agentov.

Aký je pri nasadzovaní AI agentov ten jeden bezpečnostný princíp, ktorý sa najčastejšie podceňuje – a pritom rozhoduje o tom, či sa systém stane bezpečný alebo nekontrolovateľný?

Myslím si, že to je práve prístup AI agenta do internetu, pretože tam sa môže ľahko nakaziť nejakým škodlivým promptom (príkazom), ktorý neskôr vykoná v systéme. Druhým problémom je nesprávne zadefinovaný prompt používateľom, keď AI jednoducho nepochopí, čo sa od neho chce (napríklad príkaz na upratanie v systéme môže znamenať – všetko vymaž, pretože to bude najlepšie upratané). Posledným problémom sú podľa mňa plne autonómne postupy bez schvaľovania v rámci prevádzky AI agenta, keď agent môže pracovať nielen vo svojej zložke, ale môže ju opustiť a pracovať na úrovni celého zariadenia, čo znamená, že bude schopný efektívne vykonávať príkazy i za cenu chyby. Ak akceptujeme, že AI halucinuje z približne 20 %, potom to znamená, že pri vykonávaní príkazov v zariadení urobí chybu pri každom piatom príkaze. Takáto chyba môže byť pre údaje v zariadeniach osudová. O to viac prichádza na rad pravidelnosť a rýchlosť zálohovanie systémov.

Ako je to s identifikáciou slabín v organizáciách vďaka AI, akou je napríklad Claude Mythos od Anthropicu?

Dnes viac ako predtým prichádza na rad správa aktualizácií. AI nástroje, a to nielen Claude Mythos, ale aj niektoré čínske modely, sú schopné identifikovať zraniteľnosť systémov raketovou rýchlosťou, a to neriešime zraniteľnosti nultého dňa (zero days zraniteľnosti), ale aj všeobecné zraniteľnosti. AI agenti sú schopní pracovať 24x7 a to hyper škálovane, keď z jedného zariadenia môžete spustiť 100 agentov a tí potom vykonávajú identifikácie zraniteľností a pokúšajú sa ich zneužiť. Update management zrazu získava novú pozíciu vo svete IT služieb a akcelerácia tejto oblasti sa musí zvýšiť, pretože to je oblasť, ktorú sme veľmi dlho podceňovali. Toto však nie je iba o perimetri, ale aj o vnútornom prostredí, pretože malware je dnes vybavený malými modelmi postavenými na procesorovom výkone (nie je potrebná grafická karta) a dokážu hneď identifikovať citlivé dáta, zraniteľnosti, zostavovať explity a veľa ďalšieho, a tým dokážu veľmi efektívne napadnúť vnútornú infraštruktúru.

Daniel Hejda sa predstaví ako keynote počas SECURITY DAY (17. júna 2026) Jarnej ITAPA 2026 v paneli Agentická AI ako nový útočný vektor.

Neváhajte a zabezpečte si vaše miesto. Registrovať sa môžete tu.