2021 kiemelt technológiai trendje lesz az MLOps, állítja a Deloitte 2021-re vonatkozó Tech Trends elemzése. De mi köze az MLOps-nak a mindenféle korábbi "Ops"-okhoz? Voltaképpen a napi gyakorlatban nem sok, ám DevOps (vagy DevSecOps) nélkül az MLOps sem nagyon létezne.

Döntéstámogatás mesterséges intelligenciával

Rohamosan növekszik a mesterséges intelligenciával ellátott döntéstámogató rendszerek és alkalmazások bevezetésére irányuló projektek száma, állítja a Deloitte. Az MLOps, amely a Machine Learning Operations összevonásával képzett mozaikszó, ebben segít: olyan irányítási rendszert nyújt, amely egységes, etikus, jogszabálykövető, agilis modellfejlesztést és üzemeltetést eredményezhet. Merthogy a gépi tanulási rendszereket is kell fejleszteni és üzemeltetni. Az MLOps tehát olyan módon mindenképpen kapcsolódik a fejlesztést és az üzemeltetést egységben kezelő DevOpshoz, hogy ahhoz hasonló szemléletet visz bele a gépi tanulási rendszerek széles körű és általános alkalmazásába (a Deloitte szóhasználatával: iparosításába).

Magát a fogalmat pár éve kezdték használni, és a Gartner foglalta rendszerbe: az MLOps a kutatócég szerint az ún. ModelOps részhalmaza. A ModelOps a mesterségesintelligencia-modellek irányítási folyamatait (governance) és életciklus-menedzsmentjét egységben kezelő működési szemlélet. Annyiban hasonlít a DevOpshoz, hogy itt is a folyamatos fejlesztés – folyamatos szállítás a cél. A DevOpsnál a fejlesztés (development) és az üzemeltetés (operation) egységben kezelése agilisabbá tette az IT működését. Az eredmény az volt – jól megvalósított és működtetett DevOps-környezet esetén és elvileg –, hogy általánosan javult a szoftverminőség, pontosabbak lettek a szállítási határidők, miközben rövidült a fejlesztési ciklus is.

Lényegében ennek a szemléletnek az átültetését kísérli meg a mesterségesintelligencia-rendszerekre a ModelOps. Ezen belül az AIOps a big data, az analitika és a gépi tanulás segítségével javítja az IT-műveletek hatékonyságát, míg az MLOps kizárólag a gépi tanulási folyamatok működtetésére vonatkozik azok teljes életciklusában.

A működési modellt az hívta életre, hogy egyre fontosabbá válik a fejlesztés gyorsítása (modellezési életciklus rövidítése, effektív nyomonkövetés, monitorozás) és fenntarthatóság biztosítása. Nem valamiféle rendszerezett módszertan, hanem inkább bevált gyakorlatok gyűjteménye az üzleti igények minél teljesebb körű kielégítésére.

Az ML nem sima szoftver

Az intelligens rendszerek üzleti és ipari alkalmazásának a korábbi évek olyan technológiái alapoztak meg, mint a big data és az ahhoz kapcsolódó elemzési lehetőségek vagy a prediktív analitika. Az elemzésekhez korábban használt strukturált üzleti, termelési stb. adatok köre pedig kiegészült strukturálatlan adatokkal (szövegek, képek, hangfelvételek, videók stb.), amikből hatékonyabban és megbízhatóbban lehet kinyerni információkat az MLOps révén egy gépi tanulással segített döntéstámogató rendszerben.

Egy tényezőt azonban nem szabad figyelmen kívül hagyni: az intelligens szoftverek életciklusából fakadó egyedi igényeket. Az ilyen rendszerek fejlesztési fázisai ugyanis alapvetően eltérnek a tradicionális szoftverekétől, emiatt például sokkal fontosabb a felhasznált keretrendszerek finomhangolása és testre szabása, mondja a Deloitte. Például felmérések is visszaigazolták, hogy az ML-rendszerek éles környezetbe történő implementálás lassú, és a tervezetthez képest csak jóval később érezhetők az üzleti előnyei.

Az egyik probléma azonban éppen az, hogy a szervezetek jelentős többsége nem kezeli egységes keretben az MI-fejlesztést és -üzemeltetést. A sikertelennek minősített projektek mögött emellett jellemzően olyan alapproblémák húzódnak meg, hogy például hiányzik az egységes adatmenedzsment, ami pedig előfeltétele lenne az intelligens rendszerek üzletileg hatékony kiaknázásának. Azon ugyanis még egy jó ML-rendszer sem tud segít, hogy az adatok tárolása, feldolgozása és elemzése nem központilag történik, hanem egyes funkcionális szakterületek egymástól elszigetelten végzik.

Az egységes adatmenedzsment hiányának a következménye az is, hogy maguk az adatelemzések vállalati szempontból inkonzisztens gyakorlatok alapján, funkcionális egységenként történnek. (Ennek egyébként lehetnek compliance-kockázatai is.)

Itt nyerhet értelmet az MLOps: egy a fejlesztési és üzemeltetési gyakorlatot egységesítő keretrendszer ugyanis épp ezeket a kockázatokat tudja mérsékelni.