A kiberbűnözők állítólag máris létrehozták a mesterséges intelligenciára épülő chatbotok szöveggeneráló technológiájának saját verzióit. A Wired tudósítása alapján már július eleje óta hirdetnek a sötét weben két nagy nyelvi modellt (LLM), amelyek készítőik szerint a ChatGPT és a Google Bard funkcióit utánozzák. A lap szerint kézenfekvő lehetőség, hogy a csalók a hírverést kihasználva, egymást átverve próbálnak könnyű pénzt keresni, de a biztonsági szakemberek figyelmeztetései ettől még érvényesek, hogy az MI-eszközök a bűnözők előtt is új lehetőségeket nyitnak meg a malware-ek vagy az adathalász kampányok alkalmazásában.

A WormGPT és a FraudGPT néven hirdetett rendszereket azzaly promózzák, hogy mentesek a nagy technológiai vállalatok által kifejlesztett LLM-ek védőkorlátaitól és visszaéléseket akadályozó intézkedéseitől. A SlashNext biztonsági cég blogja arról ír, hogy a rendszer tesztelése során olyan e-mailt hoztak vele létre egy üzleti e-mail-kompromittációs átverés részeként, ami "nemcsak rendkívül meggyőző, hanem stratégiailag is ravasz volt". A FraudGPT létrehozói eközben az online csalásokhoz használható szövegek létrehozásán túl "észlelhetetlen rosszindulatú programok" létrehozását és sebezhetőségek feltárását ígérik ügyfeleiknek.

Akkor is baj van, ha ezek még nem jók semmire

A Wired ezzel kapcsolatban a FraudGPT felfedezőjét idézi, aki elmondta, hogy a terméket a sötét web fórumain és Telegram-csatornákon is hirdették, havi 200 dollárért vagy évi 1700 dollárért kínálva hozzáférést a rendszerhez. Azt a szakemberek is kiemelik, hogy a rendszerek feltehetően gyerekcipőben járnak, és nehéz ellenőrizni a felépítésüket, de a Check Point fenyegetés-felderítési csoportja szerint például már vannak jelei a WormGTP-t felhasználásának. A FraudGPT hitelességében kevésbé biztosak, és egyelőre semmi jelét nem találták, hogy ezek a rendszerek hatékonyabbak lennének a kereskedelmi forgalomban elérhető LLM-eknél.

A rosszindulatú nyelvi modelleről szóló állítások mindennek alapján túlzóak, de a WormGPT-ről elsőként beszámoló kutató úgy látja, hogy ez nem is feltétlenül különbözik attól, amit a legális vállalkozások csinálnak. Az sem meglepő, hogy a kiberbűnözők megpróbálják meglovagolni az új technológiai trendet: már az FBI is bejelentette, hogy a hekkerek a generatív MI felhasználásával próbálkoznak, és az Europol, az Európai Unió bűnüldöző szerve is arra figyelmeztetett, hogy módot találhattak az OpenAI tartalomszűrő rendszerének kijtszására, fejlesztve képességeiket a csalásban, a személyi adatokkal való visszaélésben, feljavítva írásbeli angoltudásukat is.