AI agenti sa z pôvodných asistentov menia na autonómne „identity“, ktoré konajú za nás. Firmy – aj na Slovensku – preto budujú lokálne AI dátové centrá, no bezpečnosť tu hrá podľa nových pravidiel. Prednáška experta z Check Pointu ukázala, prečo dnes nestačí len firewall a ako premýšľať o ochrane agentov, používateľov aj aplikácií.
AI agenti: ľahko dostupní, ťažko predvídateľní
Programovať agenta dnes zvládne prakticky každý: lacné nástroje umožnia poskladať pracovné toky, pripojiť pamäť, databázy, posielať e‑maily či volať platobné brány. Agent sa vie napojiť na interné zdroje a RAG systémy a má množstvo vstupno‑výstupných integrácií. Práve široké oprávnenia a konektivita sú dôvodom, prečo je pohodlie na jeden klik aj potenciálne riziko na jeden klik.
Agent nie je človek a nie je ani deterministický stroj: na rovnaký podnet môže reagovať rôzne a opierať sa o iné dáta. Výsledkom je vznik nových scénarov rizika vrátane tzv. „rogue“ agentov, ktorí konajú mimo očakávaní. Aj preto mnohé organizácie uvažujú o lokálnych AI dátových centrách a prísnejšej izolácii systémov.
Regulácia a slepé miesta dnešnej bezpečnosti
Podľa prednášky sa v EÚ blíži povinné bezpečnostné testovanie AI agentov približne do augusta 2026, čo sa dotkne aj Slovenska. Tempo vývoja je však rýchle a istoty je málo; prognózy plnej autonómie bez „human‑in‑the‑loop“ ostávajú skôr striedme (odhadom menšinový podiel do roku 2028). Isté je, že firmy budú musieť preukázateľne testovať a dokumentovať riziká.
OWASP už pomenúva nové triedy zraniteľností špecifických pre agentov. Tradičné nástroje – WAF, sieťová a aplikačná ochrana, DLP či IAM – narážajú na limity, pretože agent koná naprieč vrstvami. Bezpečnostné „mantinely“ (guardrails) sa pri nástrojoch typu MCP rozširujú tak, že pokrývajú len malý výsek rizík a ľahko sa obchádzajú.
Ako chrániť AI „krabičky“: od perimetra po hardvér
AI server s GPU môže byť fyzicky malý, no správa sa ako autonómne dátové centrum: má databázy, kontajnery, aplikácie, trénovacie modely aj vaše dáta. Nestačí teda „dať pred to firewall“ ani nainštalovať antivírus. Potrebná je kombinácia perimetrovej ochrany, mikrosegmentácie, dohľadu nad prúdmi ingress/egress i east‑west a jasných politík na troch osiach: používateľ a jeho dáta, agent a dáta, a samotné aplikácie.
Prednáška zdôraznila aj prístup „AI proti AI“ a zásahy na úrovni hardvéru. Integrácia do DPU kariet (napr. NVIDIA BlueField/DOCA) umožňuje jemne riadiť sieť, brzdiť eskalácie práv, pokusy o spustenie škodlivého kódu či krádeže modelov a tréningových dát, a to ešte predtým, než sa hrozba prejaví vyššie v stacku. Napriek tomu ide o rýchlo sa meniace pole – to, čo funguje dnes, sa môže o pár mesiacov zásadne zmeniť.
