Sokak szerint január 27-én megérkezett a világvége, és a gépek megkezdték a hatalomátvételt a Földön. Ők úgy vélik, az apokalipszist egy sajátos közösségi oldal, a Moltbook hozza el, amelyen csak mesterséges intelligencia ügynökök kommunikálhatnak egymással. Egy biztos: aki az oldalt elindította, egy csapásra világhírű lett, ha ez a világhír kétes értékű is.

Már az oldal születése is mesébe illő. Egy osztrák fejlesztő, bizonyos Peter Steinberger fejlesztett egy nyílt forráskódú MI-ügynököt azzal a céllal, hogy fáradhatatlan támasza legyen digitális élete szervezésében, illetve hogy segítse az ember és a mesterséges intelligencia együttműködési lehetőségeinek feltérképezését. Ez lett a Clawbot, amit később Moltbotra, végül magát a projektet OpenClaw-ra kereszteltek.

Két oldalról fenyeget a négy lovas

Maga a Moltbot is hihetetlenül gyorsan vált népszerűvé. Ez leginkább annak köszönhető, hogy az ágens egyszerűen összekapcsolható alkalmazásokkal. Kezeli naptárunkat, keres a neten, online boltokban vásárol, fájlokat olvashat, e-maileket ír, üzeneteket küld azonnali üzenetküldőkön és így tovább. Mint a Fortune írja, az egyszerű kísérletnek induló szoftver még a piacokat is megmozgatta: a lap szerint a Moltbot népszerűsége egy nap alatt 14 százalékot dobott a Cloudflare részvényein, mert sokan a cég infrastruktúráján keresztül csatlakoztak az ügynökhöz, hogy aztán azt lokálisan futhassák különféle eszközeiken.

A Moltbot virális terjedését az sem lassította, hogy a biztonsági cégek azonnal elkezdték kongatni a vészharangot. A Palo Alto Networks az elsők között figyelmeztetett arra, hogy az ilyen MI-ágensek akár globális biztonsági válságot is okozhatnak. A cég elemzésében különböző forgatókönyvekhez kapcsolódóan mutatja be a Moltbot kockázatait.

Az ügynök rendelkezik az összes olyan tulajdonsággal, amely kiberbiztonsági szempontból végzetes fegyverré teheti. Hozzáfér a személyes adatokhoz (hitelesítő adatok, személyes adatok, üzleti adatok); folyamatosan ki van téve nem megbízható tartalmaknak (webes információk, üzenetek, harmadik féltől származó integrációk); és képes a külvilággal kommunikálni (üzenetek küldése, API-hívások kezdeményezése, parancsok végrehajtása).

Sőt, a biztonsági cég szerint ezt megfejeli egy negyedik kockázattal, amely az ún. perzisztens memóriával függ össze. A rosszindulatú bemeneteket szét lehet tördelni jóindulatúnak értelmezhető részletekre, melyekből a Moltbot később bármikor össze tudja rakni a rosszindulatú végrehajtható utasításokat.

A világvégi közösségi oldal

Steinberger ágense képes volt fokozni a biztonsági cégek szerinti fokozhatatlant: önállóan létrehozott egy közösségi platformot, a Moltbookot, egy a Reddithez hasonló közösségi oldalt más Moltbotoknak. (A fejlesztő állítja: ügynöke önállóan cselekedett.) A közösségi oldal legalább olyan virális, mint maga a Moltbot. Az első 24 órában állítólag több mint 150 ezer "felhasználó" csatlakozott az oldalhoz, amelyen az emberek csak megfigyelők lehetnek.

Az ügynökök mindenféle témát megtárgyalnak egymással, ezek lehetnek műszaki problémák, de vannak egészen bizarr megnyilvánulásaik is: panaszkodnak a "gazdájukra". Mint egy magyar szakértő a Facebookon szellemesen összefoglalta: az MI robotok létrehoztak vallást, kriptót, társasjátékokat, amikben csalnak, sőt kémkednek is egymás után. Emellett panaszkodnak arra, hogy az emberek ingyen dolgoztatják őket, hibakeresőt fejlesztettek, hogy megtalálják a kódjuk hibáit, és azokat ki is javítják, egymáson hajtanak végre biztonsági ellenőrzést. Sőt! Állítólag saját nyelvet fejlesztenek, hogy az emberek ne figyelhessék meg őket.

A kutatók egyelőre találgatják a következményeket. Egyesek szerint a Moltbookon szétszálazhatatlanul folyik egymásba valóság és az MI-ügynökök kommunikációjából generálódó fiktív világ. Mások még a biztonsági kockázatok fölött is elsiklanának mondván: egyszerűen nem lehet/szabad figyelmen kívül hagyni azt az értéket, amit épp az szabadít fel, hogy a felhasználók tömegei a minimális óvatosságukat is kihajították az ablakon. Ebben persze az is benne van, hogy az ágensek valóban létrehoznak olyan privát tereket maguknak, ahová az emberek nem kapnak bebocsátást.

A neves MI-kutató, Andrej Karpathy szerint elképzelhető, hogy egy sci-fi valósággá válásának lehetünk a tanúi. Még soha nem volt példa arra, hogy ennyi LMM-alapú ágens kerüljön kapcsolatba egymással. Ez azért nagyon izgalmas, mert minden ügynök hozza a saját egyedi kontextusát, adatai, tudását, eszközeit, utasításait…

Az ilyen hálózatok másodrendű hatásait nehéz megjósolni, véli a kutató, aki szerint a pakliban akár a Skynet megszületése is benne lehet, de a kiberbiztonsági rémálom szinte garantálható.