Digitálna suverenita? Možná len s open source
Rozvoj umelej inteligencie a cloudových služieb otvára v Európe zásadnú otázku: ako zaistiť digitálnu suverenitu v prostredí, ktoré je z veľkej časti ovládané globálnymi technologickými hráčmi.
Firmy aj verejné inštitúcie čoraz častejšie riešia, kde sú ich dáta uložené, kto k nim má prístup a do akej miery sú závislé od konkrétnych dodávateľov. Práve v kontexte nástupu generatívnej AI a veľkých jazykových modelov táto debata ešte viac nadobúda na význame.
Na to, čo dnes digitálna suverenita skutočne znamená, aké sú jej praktické limity a akú rolu v nej hrá open source alebo európske AI iniciatívy, sme sa opýtali Grega von Jagowa zo spoločnosti Red Hat. V rozhovore približuje nieje len aktuálne možnosti budovania suverénnych cloudových a AI riešení, ale aj to, prečo bez otvorených technológií zostáva suverenita skôr ilúziou.
Ako by malo v princípe vyzerať suverénne európske AI cloudové riešenie, aby bolo skutočne suverénne?
Suverénny cloud znamená plnú kontrolu nad dátami, výpočtovými úlohami a procesmi, a to tak po technickej, ako aj organizačnej stránke. Firmy musia sami rozhodovať o tom, kde sú ich dáta uložené, ako sa spracovávajú a kto k nim má prístup. To môže prebiehať vo vlastnej infraštruktúre, u poskytovateľa alebo v hybridnom prostredí. Práve tu prichádza ku slovu otvorený hybridný cloud, ktorý prepája vlastné dátové centrá s verejnými cloudovými službami a umožňuje presúvať výpočtové úlohy podľa potreby bez toho, aby vznikla závislosť od jediného dodávateľa. Len tak je možné splniť regulačné požiadavky a zároveň využiť inovačné tempo cloudu.
Pri digitálnej suvenenite je vždy nutné zohľadniť štyri oblasti – dáta, technológie, prevádzku a reguláciu. Dátová suverenita znamená udržať kontrolu nad ukladaním, prístupom, správou, spracovaním aj prenosom dát. Technologická suverenita zahŕňa okrem iného prístup ku zdrojovému kódu, čo znižuje riziko závislosti od jedného dodávateľa. Prevádzková suverenita zahŕňa napríklad flexibilnú prevádzku výpočtových úloh na ľubovoľnej infraštruktúre. Regulačná suverenita potom znamená zaistenie integrity, bezpečnosti, spoľahlivosti a zhody digitálnych systémov s legislatívou.
Čo je z toho dnes reálne možné?
Už dnes je možné realizovať veľmi veľa, ako ukazujú konkrétne príklady. V Red Hate sme na kritickú strategickú potrebu digitálnej suverenity v Európe reagovali napríklad predstavením riešenia Red Hat Confirmed Sovereign Support for EU. Táto podpora bola navrhnutá tak, aby poskytovala dedikovanú technickú podporu európskym organizáciám zaisťovanú zamestnancami z EÚ. Cieľom je umožniť novú úroveň overiteľnej lokálnej kontroly nad kľúčovými IT operáciami podľa európskych štandardov. V spojení so širokým ekosystémom cloudových služieb v EÚ tak znižujeme závislosť od proprietárnych dodávateľov a otvárame cestu k suverénnym hybridným cloudovým a AI prostrediam.
Dôležité sú tiež iniciatívy ako Gaia-X a 8ra, ktoré podporujú rozvoj suverénnych cloudových infraštruktúr v Európe. Stanovujú kľúčové štandardy pre dátovú suverenitu a interoperabilitu. Význam majú aj odvetvové štandardizačné projekty, ako je Catena-X v automobilovom priemysle, alebo európske výskumné iniciatívy v oblasti high-performance computingu.
Čo možné nie je?
Je potrebné si uvedomiť, že aj pri európskych iniciatívach zameraných na dátovú suverenitu hrá cloud zásadnú rolu. Tieto iniciatívy dopĺňajú verejné cloudové služby, ale nenahrádzajú ich. Definujú rámcové podmienky, aby aj medzinárodní poskytovatelia mohli fungovať podľa európskych pravidiel. Pre nás sú tieto štandardy kľúčové, pretože naše platformy – od Red Hat Enterprise Linux cez Red Hat OpenShift až po automatizačné riešenia – koncipujeme dôsledne ako otvorené. Môžu tak fungovať ako most medzi rôznymi cloudovými prostrediami.
Aké AI cloudové riešenia existujú pre efektívnu prácu aj s veľkými modelmi?
Zdá sa, že rozruch okolo veľkých jazykových modelov postupne mierne opadáva. Na význame naopak získavajú menšie modely pre špecifické úlohy ako alternatíva k LLM. Ponúkajú množstvo výhod, napríklad jednoduchšiu implementáciu alebo priebežnú integráciu nových – aj firemných či doménovo špecifických – dát, vďaka čomu ich môžu firmy rýchlejšie dolaďovať. Menšie modely tiež znižujú závislosť od veľkých poskytovateľov LLM, ktorých riešenia často fungujú ako „čierna skrinka“ z hľadiska algoritmov, tréningových dát či samotných modelov. Menšie modely v neposlednom rade prinášajú aj výrazné úspory nákladov.
Existujú však aj spôsoby, ako efektívnejšie využívať veľké AI modely. Významným príkladom je open source projekt vLLM, ktorý sa vyvíja ako jednotná inferenčná vrstva pre rôzne veľké aj malé jazykové modely. Funguje ako medzivrstva umožňujúca prevádzku modelov rôznych dodávateľov na GPU, TPU a ďalších akcelerátoroch. Zároveň pomáha zefektívniť výpočty, napríklad lepším využitím pamäte GPU, čo urýchľuje výstupy generatívnych AI aplikácií. Inferencia sa totiž stáva kritickým miestom – modely sú čoraz komplexnejšie a ich nasadenie rastie, čo zvyšuje nároky na hardvér, spomaľuje odozvu a zvyšuje náklady. Robustné inferenčné servery umožňujú využívať hardvér oveľa efektívnejšie.
Akú rolu budú hrať európske LLM ako Teuken 7B, Mistral alebo SOOFI?
Európske, otvorene licencované LLM trénované v EÚ a rešpektujúce nariadenie EU AI Act majú pre digitálnu suverenitu zásadný význam. Je však nutné všetky ponuky a licenčné modely dôkladne posudzovať. Jedna vec je totiž kľúčová – bez open source zostáva digitálna suverenita iba fikciou. V oblasti AI často hrozí tzv. „open source washing“. Skutočný open source znamená plnú transparentnosť, pochopiteľné algoritmy, prehľadnú správu chýb a možnosť ďalšieho vývoja za účasti komunity. Naproti tomu mnoho takzvaných open source LLM síce ponúka voľnú dostupnosť, ale neposkytuje dostatočný vhľad do tréningových dát, nastavovania váh, interných mechanizmov modelu ani plánu ďalšieho vývoja. Pre firmy je pritom transparentnosť a znalosť dátového základu kľúčová – už len z hľadiska zodpovednosti a súladu s legislatívou.