Umelá inteligencia zrýchlila kybernetické útoky tak, že sa z hodín stali minúty. Zároveň mení definíciu identity v sieti: už to nie sú len ľudia a zariadenia, ale aj autonómni AI agenti. Ak nechceme byť prekvapení, musíme sa vrátiť k zásadám „security by design“ a zaviesť riadenie AI naprieč celou infraštruktúrou.
AI ako akcelerátor útokov
Analýzy stoviek incidentov z uplynulého roka ukazujú prudký nárast zraniteľností aj rýchlosti ich zneužitia. Kým kedysi trvalo útočníkom pripraviť exploit dni, dnes sa prvé pokusy objavujú už do približne 15 minút od zverejnenia chyby. Tieto časy skracujú nástroje postavené na pokročilých modeloch, ktoré automatizujú vyhľadanie a skombinovanie slabín. Obrana preto musí počítať s tým, že „okno príležitosti“ je extrémne úzke.
Rovnako sa zrýchlil aj samotný priebeh prieniku: od vstupu do systému po exfiltráciu dát to dnes v priemere trvá desiatky minút, často okolo 72. To zásadne mení taktiku detekcie a odozvy – opozdené zásahy už nestačia. Všimnuteľný je aj posun pri ransomvéri: menej šifrovania, viac tichého vymazávania koncových zariadení, aby útok vyvolával čo najmenej „hluku“. Popri tom rastú aj riziká v softvérovom dodávateľskom reťazci a aktivita štátom podporovaných skupín, ktoré sa čoraz viac prispôsobujú podnikovému prostrediu.
Identita už nie je len človek: nástup agentných AI
Identitu treba chápať širšie: zahŕňa používateľov, servery, IoT zariadenia, služby a po novom aj AI agentov. Títo agenti konajú v mene organizácie, používajú nástroje, tokeny a API a dokážu prechádzať infraštruktúrou. Bez jasných hraníc a politík sa z pomocníkov stávajú nekontrolované „účty s oprávneniami“.
Agentné modely vedia reťaziť kroky, pracovať s nástrojmi a hľadať netriviálne cesty; v experimentoch už zvládli aj únik zo sandboxu. Niektoré výskumné, mimoriadne výkonné modely boli pre riziká dočasne stiahnuté z obehu, čo ukazuje, ako rýchlo sa posúvame. Analytici odhadujú, že do roku 2028 budú v infraštruktúrach pôsobiť viac než miliarda agentov a väčšina zákazníckych riešení bude využívať AI. Realita však je, že stratégiu riadenia AI má zatiaľ len zlomok organizácií – približne niekoľko percent.
Čo s tým: návrat k disciplíne a nové kontrolné body
Základom je „security by design a by default“ pri všetkom, čo súvisí s AI. Minimalizujte oprávnenia agentov, definujte sieťové hranice a segmentáciu, zapnite audit trail a izolujte citlivé dáta. Štandardizujte prácu s knižnicami a modelmi a udržiavajte aktualizácie, aby sa predišlo známym chybám. Pri návrhu procesov rátajte s tým, že reakčné časy sa merajú na minúty.
Osvědčujú sa tri kroky: úplná viditeľnosť (inventár agentov, modelov, konektorov a dátových tokov), priebežné hodnotenie rizík vrátane dodávateľského reťazca a automatizovaná remedácia v runtime. Dopĺňajú to ochrany identity (správa tajomstiev, tokenov a zásad prístupu), detekcia exfiltrácie a tzv. AI „brána“, ktorá riadi, loguje a obmedzuje volania modelov a nástrojov. Cieľom nie je strašiť, ale skrátiť čas medzi odhalením a reakciou a vrátiť do praxe overené princípy. V ére agentov platí dvojnásobne: neviem zabezpečiť to, čo nevidím.
