Umelá inteligencia sľubuje urýchlenie práce úradov, no v praxi naráža na konkrétne riziká. Najmä malé obce s pár zamestnancami potrebujú jednoduchšie a bezpečnejšie riešenia než veľké „all‑in‑one“ platformy. Prednáška sa sústredila na to, ako si správne vybrať nástroj, dodržať GDPR a predísť chybám modelov.
Prečo univerzálne riešenia často zlyhávajú v malých obciach
Slovensko má okolo 3 000 municipalít, väčšina s menej než tisíc obyvateľmi, a robustné AI balíky sú pre ne často zbytočne „ťažké“. V praxi potom mnohé úrady siahnu po voľnej verzii chatbota, čo je problém, ak dáta občanov putujú mimo kontrolovaného prostredia. Podľa prednášajúceho je rizikom aj to, keď sa bezplatné služby používajú bez jasných zmluvných garancií o ochrane údajov.
Rozhodovanie by nemalo stáť len na popularite, ale aj na pôvode nástroja a jeho obchodnom modeli. Kvalita odpovedí sa u veľkých modelov môže časom meniť a závisí od priorít poskytovateľa. V Európe zároveň rastie tlak preferovať európske a open‑source alternatívy, aby sa predišlo budúcim obmedzeniam v štátnej správe.
GDPR, kontext a halucinácie: trojica kľúčových rizík
Keď občan odovzdá dokument na úrade, súhlasí s jeho spracovaním úradom, nie s nahrávaním do komerčnej služby v tretej krajine. Bez anonymizácie alebo primeraných zmluvných a technických záruk takýto prenos môže porušiť GDPR. Preto je nutné mať jasné pravidlá, ako a kam sa údaje posielajú, a minimalizovať ich rozsah.
Modely tiež halucinujú a limituje ich takzvané kontextové okno, teda množstvo textu, ktoré zvládnu „udržať v pamäti“. Dlhé zákony sa doň často celé nezmestia, čo vedie k odpovediam, ktoré citujú správnu normu, no vyberú inú pasáž a dospejú k odlišnému záveru. Výsledkom je nekonzistentnosť, ktorá je pre rozhodovanie úradu neakceptovateľná.
Ako vyberať a nasadzovať AI: RAG, integrácie a školenie
Prednášajúci odporúča zvažovať európske modely, napríklad Mistral, a technickú architektúru RAG, ktorá kombinuje všeobecné znalosti modelu s internými smernicami a dátami mesta. Kľúčové je prepojenie na existujúce systémy, ako spisová služba, informačný či legislatívny systém, inak nástroj nevie pracovať s potrebným kontextom. Dôležité sú aj certifikácie dodávateľa a školenie zamestnancov v písaní kontextových promptov.
Ak obec používa Google Workspace, praktické môže byť Gemini; ako alternatívy zazneli aj ChatGPT (s limitmi kontextu), Claude a Perplexity na vyhľadávanie. Naopak, v prostredí verejnej správy sa neodporúčali nástroje ako DeepSeek či Grok pre riziká spojené s propagandou či dezinformáciami. Hovorilo sa aj o AI agentoch, ktorí proaktívne upozornia na úlohy a informácie; prednášajúci predstavil vlastný nástroj s preddefinovanými promptmi pre úrady ako príklad tohto prístupu.
