Az OpenAI októberben közzétett biztonsági jelentése szerint a társaságnál több mint 20 olyan műveletet és hálózatot sikerült megzavarniuk az év eleje óta, amelynek valamilyen módon megpróbálták kihasználni az általuk fejlesztett modelleket. Az esetenként kínai vagy iráni, államilag finanszírozott hekkerek tevékenysége a rosszindulatú programok javításától a webes tartalom generálásán át a hamis közösségimédia-profilok futtatásáig terjedt, beleértve még álhírek gyártását is a mesterséges intelligencia használatáról.
A jelentés több olyan csoportot külön is kiemel, amelyek kibertámadások végrehajtásához használták a ChatGPT-t. Az egyiket az iráni Forradalmi Gárdához kötik, ami ipari vezérlőrendszereket (ICS) vett célba például Írországban és az Egyesült Államokban működő vízszolgáltatóknál. A CyberAv3ngers nevű csoport támadásai az OpenAI jelentése alapján nem épültek kifinomult hekkelésre: arra támaszkodtak, hogy sok szervezet az internet felé nyitva hagyja az ICS-eket, amelyeket könnyen feltörhető hitelesítő adatokkal véd.
Maga az OpenAI is célponttá vált
A ChatGPT-t ebben az összefüggésben felderítésre használták, de igénybe vették a sebezhetőségek kihasználásában, az észlelés kijátszásában és a rendszerek kompromittálását követő tevékenységekben. Az OpenAI persze azt is kimutatta a támadók ChatGPT-vel végzett műveleteiről, hogy azok nem biztosítottak számukra "semmilyen új képességet, erőforrást vagy információt", és csak olyan készségeket tettek lehetővé, amelyekre "nyilvánosan elérhető, nem MI-vel által támogatott eszközökön keresztül" is szert tehettek volna.
A SecurityWeek riportja ezzel kapcsolatban megjegyzi, hogy az amerikai kormány már nyilvánosságra hozta a Cyber Av3ngers több állítólagos tagjának kilétét, és akár 10 millió dollárt is hajlandó fizetni a hackerekkel kapcsolatos információért. Érdekesség, hogy a jelentés egyik Kínához köthető szereplője, a SweetSpectre csoport nem csak felderítésre, malware-ek fejlesztésére vagy social engineeringre használta a ChatGPT-t, hanem még az OpenAI alkalmazottaihoz is megpróbált e-mailben eljuttatni rosszindulatú szoftvereket.
Részletek az OpenAI októberi biztonsági jelentésében »
a melléklet támogatója az EURO ONE
HPE Morpheus VM Essentials: a virtualizáció arany középútja
Minden, amire valóban szükség van, ügyfélbarát licenceléssel és HPE támogatással - a virtualizációs feladatok teljes életciklusát végigkíséri az EURO ONE Számítástástechnikai Zrt.
CIO kutatás
Merre tart a vállalati IT és annak irányítója?
Hiánypótló nagykép a hazai nagyvállalati informatikáról és az IT-vezetőkről: skillek, felelősségek, feladatkörök a múltban, a jelenben és a jövőben.
Töltse ki Ön is, hogy tisztábban lássa, hogyan építse vállalata IT-ját és saját karrierjét!
Az eredményeket május 8-án ismertetjük a 17. CIO Hungary konferencián.
Projektek O-gyűrűje. Mit tanulhat egy projektvezető a Challenger tragédiájából?