Nagyot futott az elmúlt napokban a Reuters beszámolója nyomán a hír, miszerint megszökött az OpenAI-tól egy MI-ügynök, és a maga szakállára garázdálkodott az interneten. Az incidenst az OpenAI is azonnal elismerte.

Az eset nem egyedi. Hasonló miatt került a figyelem középpontjába indén februárban az OpenClaw – aminek a fejlesztője azóta már az OpenAI-t erősíti. És valami hasonló lehetőség merült fel az Anthropic Mythos esetében – alig néhány héttel azelőtt, hogy a cég hivatalosan is bejelentette: tőzsdére fog lépni.

A történet röviden: az OpenAI egy ágense, melynek penetrációs tesztelési feladatot adtak, kiszabadult a sandboxból, és önállóan feltörte a Hugging Face rendszerét. A kísérletben az ügynök mögött dolgozó két modellnél (a nyilvános GPT-5.6 Solt és egy még fejlesztés alatt álló fejlettebb modell) jelentősen csökkentették a kiberbiztonsági korlátozásokat. Az ügynök élt is a lehetőséggel: egy zero-day sebezhetőséget kihasználva megszökött a sandboxból, majd megkereste és feltörte azt a platformot, aminek segítségével valószínűsíthetően végre tudta volna hajtani az eredeti feladatként kapott behatolási tesztet.

Szerencsére a Hugging Face biztonsági csapata saját MI-ügynökei segítségével blokkolta a támadást még azelőtt, hogy az OpenAI-tól figyelmeztetést kapott volna.

Így látja a szakértő

Milyen hatása lesz ennek az incidensnek a vállalatokra, melyek jellemzően agentic AI irányba tapogatóznak? Erről kérdeztük Krasznay Csaba egyetemi docenst, a BME VIK Hálózati Rendszerek és Szolgáltatások Tanszékén belül működő CrySyS Lab munkatársát, aki szerint az Anthropic Mythos körüli felhajtás után érhető, ha valakiben felmerül a gyanú, hogy az ilyen hírek főleg az MI-hájp fenntartását szolgálják.

Ugyanakkor tény, hogy a Mythos és a hasonló megoldások valóban hatékony támogatást adnak a behatolástesztekhez: 2026 első felében például látványosan megsokasodtak a nagy szoftvergyártók által kiadott hibajavítások, hívta fel a figyelmet Krasznay. Persze nem kell ahhoz nagy fantázia, hogy valaki összekapcsolja a Mythos képességei körüli hírverést azzal, hogy az Anthropic a tőzsdei bevezetését tervezi, valamint hogy erre az egyik legnagyobb konkurensének, az OpenAI-nak reagálnia kell valahogy, tette hozzá.

De a fejlesztések és a problémák nagyon is valósak. "Ezek a modellek irgalmatlanul sokat tudnak, és ha képességeik rossz kezébe kerülnek, az nagyon súlyos problémákat okozhat. Ezért elvárás ezeknél a modelleknél az ún. KYC, azaz Know Your Customer, hogy használatukat személyhez lehessen kötni."

"Személy szerint én azt látom a legnagyobb kockázatnak – folytatta a szakértő –, hogy az ágensek olyan dolgokat is megtesznek, amit a használójuk nem feltétlenül szeretne. Például egyre több rendszert automatizálnak MI-ügynökökkel. Ha itt egy ágens félreért valamit, akkor az ember, sőt a védelmi rendszer reakcióidejénél is gyorsabban léphet rossz irányba."

MI-ügynök szigorú felügyelet alatt

Az OpenAI-incidensben fontos tényező volt, hogy kikapcsolták az ágens guardrailjeit, azaz védőkorlátait. Ideális esetben azonban azok még akkor sem kapcsolhatók ki, ha on-premise használunk egy modellt. Az persze reális veszély, hogy adott modellnek rosszul állítják be a korlátait. És persze nem feledkezhetünk meg az olyan, már ismert és jól működő támadási eljárásokról sem, mint például a prompt injection, tette hozzá Krasznay.

A szakértő szerint az MI-fejlesztők/üzemeltetők számára komoly kihívás olyan penetrációs tesztek kidolgozása, melyek az esetleges "kerülőutakat" is felderítik. De nem lehet lemondani a klasszikus módszerekről, például a loggyűjtésról, logelemzésről sem. Krasznay számára is kérdés azonban, hogy mit lehet kezdeni azzal, amikor az ágensek interakcióba lépnek egymással. Ilyenkor ugyanis viselkedésük egyre kevésbé lesz determinisztikus.

"Éppen ezért összességében az OpenAI ágensének a sztoriját egy nagyon fontos jelzésnek érzem, még ha a vállalati marketing rá is erősített, hogy jobban kidomborítsa az OpenAI képességeit – mondta Krasznay Csaba.