Európsky AI Act prináša do používania umelej inteligencie jasné pravidlá, no zároveň kladie dôraz na rovnováhu medzi bezpečnosťou a inováciami. Prednáška Petra Hanzlíka z DXC Technology ukázala, čo to znamená pre štátnu správu a prečo sa treba pripraviť už dnes. Kľúčové požiadavky začnú naplno platiť v roku 2026.
Prístup založený na rizikách
Zákon delí systémy AI do štyroch kategórií podľa dopadu na ľudí. Zakázané budú nástroje ako sociálne skórovanie či manipulatívne systémy ovplyvňujúce zraniteľné osoby, napríklad deti. Vysokorizikové sú riešenia s priamym vplyvom na životy občanov, ako náborové filtre alebo rozhodovanie o sociálnych dávkach, a budú podliehať prísnym pravidlám vrátane manažmentu rizík, auditov a dohľadu človeka. Obmedzené riziko zahŕňa napríklad chatboty, kde sa vyžaduje transparentnosť, aby používateľ vedel, že komunikuje so strojom; zvyšok tvorí minimálne riziko ako spamové filtre či AI v hrách.
Dôležité je aj načasovanie: od augusta 2026 začnú platiť najmä povinnosti pre vysokorizikové systémy v štáte. Ak sa riešenie dotýka základných práv, bude potrebné posúdenie ich vplyvu. Mnohé praktické detaily implementácie sa budú upresňovať postupne, no rámec je daný a sankcie za porušenie môžu byť výrazné. To, či sa svet prikloní skôr k európskej ceste alebo k voľnejšiemu americkému prístupu, ukáže až čas.
Ako sa má pripraviť štátna správa
Príprava sa nezačína pri prvom prototype, ale pri stratégii a dátach. Organizácie potrebujú zladenie AI iniciatív s cieľmi, jasnú správu a zodpovednosti (governance) a procesy, ktoré zohľadnia špecifiká AI už od začiatku vývoja. Vývoj AI nie je ako tradičné IT, kde možno „opraviť riadok kódu“ v ten istý deň; tu je kľúčová kvalita dát, riadenie rizík a priebežná kontrola. Transparentnosť voči občanom je nutnosť, napríklad pri chatbotovi obce má byť zjavné, že ide o stroj.
Praktický postup je: zhodnotiť pripravenosť organizácie, nastaviť pravidlá a kompetencie, až potom riešiť súlad konkrétnych systémov. Tam prichádzajú právnici a konzultanti s akčným plánom na splnenie požiadaviek AI Actu. Aj keď nie všetko je dnes definitívne, vyhrať sa dá prípravou: mať víziu, procesy a dôraz na etiku a bezpečnosť bez brzdenia užitočných inovácií. Kľúčové slovo je pripraviť sa – skôr, než príde rok 2026.
