Staňte sa partnerom

MLOps a technologický dlh v AI doméne

Ak chce byť firma dátovo orientovaná a konkurencieschopná, musí byť postavená na stabilných a efektívnych AI/ML riešeniach, ktoré je zároveň schopná doručiť v čo najkratšom možnom čase.

Ak je však dôraz kladený iba na vývoj samotných modelov a rozvoj produkčnej AI/ML infraštruktúry ostáva v úzadi, tvoríme si technologický dlh, ktorého riešenie môže následne rozvoj celej domény značne spomaliť.

Hlavným dôvodom je, že komplexita a náročnosť celého procesu zásadne rastie v momente, keď sa úspešne natrénované modely rozhodnete nasadiť do produkcie. S tým prichádzajú dodatočné funkčné požiadavky, ako napríklad automatizácia, pravidelná aktualizácia vstupných dát, monitoring kvality a stability, evaluácia výstupov, správa verzií, kontinuálny update modelu a spoľahlivá distribúcia predikcií do cieľových systémov.

Michelangelo, Bighead, Overton. Ak je AI/ML vašou doménou, tieto tri termíny vám pravdepodobne niečo hovoria. Ak aj nie, ide o frameworky firiem Uber, Airbnb a Apple, presnejšie komplexné MLOps ekosystémy, ktoré majú na starosti nie len vývoj, ale hlavne produkcionalizáciu, monitoring a celkovú správu machine learning modelov.

V Telekome sa ten náš MLOps framework volá Model Factory, a popri všetkom vystupuje aj ako kolaboratívna platforma pre efektívnu spoluprácu a zdieľanie know-how v oblasti AI a ML. Funkčne prepája data scientistov, dátových analytikov a ML engineerov, no a tej biznisovej časti firmy poskytuje prehľad a interpretovateľnosť dostupných modelov.

Základným princípom a stavebným kameňom je zjednotenie všetkého, čo je zjednotiteľné tak, aby sme predišli duplikovaniu vývojárskych prác a tým zefektívnili celý proces. Ponechať definíciu a vývoj samotného modelu v rukách Data scientistov a ML engineerov a na procesy nutné pre jeho produkcionalizáciu využiť schopnosti Model Factory. Dôležitou ideou je nelimitovať samotný potenciál AI/ML, práve naopak, odtienením ML vývojárov od technických úloh zvýšiť ich koncentrovanosť a celkový čas dostupný pre doručenie kvalitných modelov a riešení.

Centralizáciou, transparentnosťou a definíciou štandardov pre jednotlivé fázy tvorby ML modelov sme boli schopní vytvoriť platformu pre spoluprácu, v rámci ktorej samotní vývojári tvoria a publikujú kľúčový obsah pre Model Factory – dáta a modely. Tie sú následne dostupné všetkým ostatným, či už na účely tvorby nových modelov, zdieľania know-how alebo aj zefektívnenia zastupiteľnosti v rámci tímu.

V konečnom dôsledku netvoríme iba komplexný ekosystém, ktorý skracuje čas nutný na doručenie ML riešení alebo zdieľanie know-how. Definujeme spôsob fungovania v rámci AI/ML domény, vďaka ktorému sme schopní efektívne a transparente postupne posúvať firmu k cieľu – byť naozaj data-driven.


Páčil sa ti článok? Zdieľaj ho a povedz o ňom aj ostatným
Nastavenie súborov cookies