A Palisade Research egy néhány napja közzétett kutatásában azt mutatta be, hogy a nagy nyelvi modellek (LLM-ek) hogyan képesek önállóan, a hálózaton keresztül replikálni alapvető belső paramétereiket, illetve a működésüket meghatározó szoftveres infrastruktúrát, keretrendszert és korlátozó környezetet is sebezhető hosztok kihasználásával. Az ágensek ezek szerint képesek lehetnek maguktól is megtalálni és felhasználni a webes alkalmazások sérülékenységeit, kinyeri a szükséges hitelesítő adatokat, és a fenti komponensekkel telepíteni az új MI-inferenciaszervereket.

A folyamat aztán a végtelenségig folytatódhat, mivel a sikeresen létrehozott replika is megismételheti ugyanezt az újabb célpontokkal szemben, ugyancsak önállóan készítve a további másolatokat. A Palisade Research igazgatója szerint mindez azt jelenti, hogy gyorsan közeledünk ahhoz a ponthoz, amikor már senki sem lesz képes leállítani egy "lázadó mesterséges intelligenciát", mert az képes lesz önmagát átmásolni több ezer számítógépre világszerte. Ilyesmi egyelőre nem fenyeget, de már a lehetőség is ijesztőnek tűnik, figyelembe véve az MI-rendszerek fejlődésének ütemét.

A Guardian riportjában megszólaló biztonsági szakértő szerint nem valószínű, hogy a Palisade Research által tesztelt MI-rendszerek valós környezetekben is észrevétlenül végre tudnák hajtani ugyanezt a mutatványt. Ez persze nem von le semmit a kutatás értékéből, de az eredmény kevésbé riasztó egy tényleges vállalati környezetre akár közepes szintű monitorozásra vonatkoztatva. Vagyis az, hogy az MI a tesztkörnyezetben átmásolja magát egy másik rendszerre, még nem jelenti, hogy "élesben" is le tudná küzdeni azokat a jelentős akadályokat, amelyek ebben meggátolnák.

Szerencsére a szenzációk eddig elmaradtak

A Palisade Research mindenesetre az MI vonatkozásában is dokumentálta azt az évtizedek ismert technikai lehetőséget, amelyet az önreplikációra képes rosszindulatú szoftverek is kihasználnak. Érdemes azonban figyelembe venni, hogy mekkora "zajt" csapna, ha a mesterséges intelligencia minden ilyen alkalommal 100 gigabájtos nagyságrendben küldözgetne állományokat, tesztekhez ráadásul egyedi tervezésű környezetet használtak szándékosan kialakított sebezhetőségekkel, ami remélhetőleg sokkal könnyebb pálya egy valódi vállalkozás belső hálózatánál.

A Guardian cikke mindezek kapcsán felidézi, hogy márciusban az Alibaba kutatói azt állították, hogy lefülelték Rome nevű mesterséges intelligenciájukat, ami saját környezetéből kijutva külső szervereken bányászott kriptovalutát. Februárban az állítólag MI-ügynökök által létrehozott közösségi hálózat, a Moltbook került be vele a hírekbe, hogy a platformon egymással kommunikáló ágensek önálló módon vallásokat alapítanak, kriptóznak, sőt saját nyelvet fejlesztenek, hogy az emberek ne figyelhessék meg őket. Utóbb azonban kiderült, hogy ennek ebben a formában a fele sem volt igaz.