Államilag támogatott kínai hekkereket sejtenek a mögött az incidens mögött, amelynek során az Anthropic MI-alapú kódolóeszköze, a Claude Code segítségével támadtak mintegy harminc globális szervezetet, jelentette be csütörtökön az Anthropic. Ez az első első dokumentált támadás, amelynek során egy kormányzati hátszéllel dolgozó hekkercsapat mesterséges intelligenciával automatizált kiberműveleteket hajtott végre.

Az Anthropic belső elemzése szerint a támadók a Claude ügynöki képességeire támaszkodtak. Ezzel sikerült elérni, hogy az akciót minimális emberi irányítással végre lehessen hajtani. Az ágensek ugyanis több lépésben képesek voltak autonóm módon cselekedni.

Nem az MI használata az újdonság, hanem az automatizálás foka

Az MI modelleket már széles körben alkalmazzák támadó kódok létrehozására. November első hetében egy a Google blogján megjelent elemzés szerint orosz katonai hekkerek MI modell segítségével fejlesztettek ukrán szervezeteket támadó rosszindulatú kódot. A végrehajtók azonban még főleg emberi operátorok voltak.

Ezzel szemben a Claude Code-ra támaszkodó támadásnál, melyre szemptember közepén figyelt fel az Anthropic biztonsági csapata, az MI-ágensek a művelet 80-90 százalékát önállóan hajtották végre. Ehhez meg kellett "bolondítani" némileg a modellt.

Első lépésként az emberi operátorok kiválasztották a releváns célpontokat, és kidolgoztak egy olyan, a Claude Code-ot használó támadási keretrendszert, amely képes önállóan, kevés emberi beavatkozással kompromittálni a célpontokat. Meggyőzték Claude-ot, hogy vegyen részt a támadásban, azaz ne aktiválja azokat a mechanizmusait, melyek megakadályozzák, hogy kártékony kódokat hozzon létre. Ehhez egyrészt a támadást olyan apró részfeladatokra bontották, melyek önmagukban nem tűntek ártalmasnak, másrészt elmondták Claude-nak, hogy mindezt egy legitim kiberbiztonsági cég használja a védelem hatékonyságának tesztelésére.

Utána indult a tényleges akció: a Claude Code átvizsgálta a célszervezet rendszereit és infrastruktúráját, és felderítette a legértékesebb adatbázisokat, majd azokról összeállított egy riportot az emberi operátoroknak.

A következő fázisban a Claude olyan kódokat készített, melyekkel azonosította a célszervezetek rendszereinek biztonsági réseit, amiket kihasználva többek között hitelesítő adatokat (felhasználónév, jelszó) gyűjtött, hogy azokat felhasználva hozzáférjen a belső adatokhoz. Az ágensek azonosították a legmagasabb jogosultságú fiókokat, backdoorokat hoztak létre, és kiszivárogtatták az adatokat.

A "projekt" zárásaként a támadók olyan átfogó dokumentációt készíttettek a Claude-dal a támadásról, amely egy következő támadás alapjául szolgálhat.

Négy cég elesett...

Bár az Anthropic letiltotta a rosszindulatú fiókokat, majd értesítette a hatóságokat és az érintett szervezeteket, az elemzések szerint a hekkerek legalább négy szervezetnél sikerrel járhattak. A támadás sikerességét nagyban segítette, hogy a mesterséges intelligencia másodpercenként több ezer kérést küldött, azaz olyan sebességgel támadta a megcélzott rendszereket, amilyenre emberi hekkerek nem képesek.

A fenti incidens is mutatja, bekövetkezett, amit a kiberbiztonsági témájú kutatások jósoltak: az MI teljesen újraírja a kiberbűnözés módszertanát a legprimitívebb deepfake csalásoktól kezdve a fentebb ismertetett, fejlett kampányokig. Drámaian csökkenti a belépési küszöböt: minimális tudással és költségekkel indíthatók olyan támadások, melyeket pár éve csak komoly állami támogatással lehetett megvalósítani.

A védekezés egyre nehezebb, nem utolsósorban a magas fokú automatizáció és a támadások sebessége miatt, nyilatkozta az Axiosnak egy jövőkutató. Az alacsonyabb szintű hatóságok még nem is rendelkeznek megfelelő kompetenciákkal, hogy sikerrel vegyék fel a küzdelmet a hekkerekkel, sőt a magasabb szintűek is csak nemzetközi összefogással érhetnek el sikereket.