A generatív mesterséges intelligencia körüli felhajtás az általános szuperintelligencia helyett már az MI-ügynökökről (agentic AI) szól, vagyis az olyan MI-alkalmazásokról, amelyek emberi beavatkozás nélkül is képesek tervezni, döntést hozni és jogosultságaiktól függően különféle feladatokat végrehajtani bizonyos célok teljesítéséhez. Az elvárások és a gyakorlati alkalmazás között azonban ismét olyan szakadék kezd kialakulni, ami egyre nyilvánvalóbbá teszi, hogy az MI-ágensek sem azok az univerzális eszközök, amelyeknek a technológiai iparág láttatni próbálja azokat. Azt természetesen senki sem láthatja előre, hogy hosszabb távon hogyan alakulnak majd a dolgok, de az biztos, hogy a pillanatnyi tapasztalatok ebben az esetben sem mindig igazolják a technológiát övező felfűtöttséget és beruházásokat.

A VentureBeat néhány nappal ezelőtt közölt cikkében a Cisco és a Splunk korábbi mérnöke, Sayali Patil osztja meg tapasztalatait, amelyeket az előző hat évben vállalati szintű infrastruktúra-automatizálási rendszerek építésével szerzett, és amelyeknek egyik tanulsága, hogy az érintett szervezetek mennyire külön kezelik az autonóm MI-ügynököket és az úgynevezett káosztechnikát (chaos engineering). Utóbbi a rendszerek hibáinak előidézéséről szól kontrollált fejlesztői és tesztkörnyezetekben, felmérve azok ellenállóképességét és feltárva mindazokat a rejtett gyengeségeket, amelyek éles üzemben komoly problémákat okozhatnak. Az MI-ágensek esetében Patil úgy látja, hogy ez a strukturális tévedés az éles rendszerhibákból fakadó, nagyszabású incidenseinek következő hullámát készíti elő.

Az ember is az architektúra része

Az általa vázolt forgatókönyv szerint az ügynökök hiába kezdeményeznek olyan műveleteket, amelyek saját kontextusukat tekintve, technikailag helyesek, ha már ez a kontextus is hiányos. Az infrastruktúrában megjelenő láncreakciók nyomán aztán már nehéz eldönteni, hogy az MI-ágens vagy az infrastruktúra meghibásodásáról volt szó, mivel a kettőt előzőleg külön értelmezték. A cikk a Gartner előrejelzését idézi, amelynek alapján 2028-ra a vállalati szoftverek harmadában fog dolgozni valamilyen módon az ügynöki MI, és ezeknek a projekteknek a 40 százalékát állítják le kockázatkezelési problémák miatt. A statisztika azonban nem rögzíti, hogy az MI-ügynökök mekkora része fut majd tovább, és idéz elő olyan infrastrukturális eseményeket, amelyeket korábban senki sem azonosított kockázatként.

Erre valós példának hoz fel egy olyan, a lassú hálózati kapcsolatok javítására tervezett MI-ügynököt, amelynek alkalmazása észszerű és megvalósítható dolog lehet, hiszen egy ilyen alkalmazás technikailag el tudja végezni a munkát. Kivéve, amikor mondjuk úgy állít le egy szervert, hogy azon éppen három másik fontos szolgáltatás fut a webes forgalom kezelésére, és amelyek működését tekintve ez katasztrófához vezet: a kaotikus hálózati esemény végül sokkal nagyobb zavart okoz, mint a kiindulásként tapasztalt lassulás. A szóban forgó MI-eszköz azonban értelmezni sem tudja ezt a kritikus hibát: a kaszkád modellezése fel sem merült az MI-ügynök tervezésekor, és senki nem tesztelte a konkrét kombinációt, a hibák hatókörének vizsgálatakor nem vették figyelembe a zavarokat előidéző, aktív szereplőként az MI-ágenst.

Patil szerint a bizonytalan költségvetési becslések, a friss telepítéseknek az MI-ügynökök által nem értelmezhető topológiai hatásai, vagy a változó függőségi állapotok mind arra mutatnak, hogy a véleményes végrehajtási döntéseknek az embereknél kell maradniuk. Minderre pedig nem az ágensek autonómiájának állandó korlátozásaként kell tekinteni, hanem a technológia jelenlegi állapotának szigorú mérnöki követelményeként. Azok a szervezetek ugyanis, amelyek megbízhatóan, nagy léptékben működtetnek MI-ügynököket, nem azok, amelyek a legkifinomultabb modellekkel rendelkeznek, hanem amelyek megétették, hogy minden ágensművelet egy "káoszesemény", és ennek megfelelően építették fel az irányítási rétegeket. Az "emberi áramköri megszakítók" beépítése pedig nem az ágensarchitektúra gyengesége.

Részletek a VentureBeat oldalán »