Az OpenAI októberben közzétett biztonsági jelentése szerint a társaságnál több mint 20 olyan műveletet és hálózatot sikerült megzavarniuk az év eleje óta, amelynek valamilyen módon megpróbálták kihasználni az általuk fejlesztett modelleket. Az esetenként kínai vagy iráni, államilag finanszírozott hekkerek tevékenysége a rosszindulatú programok javításától a webes tartalom generálásán át a hamis közösségimédia-profilok futtatásáig terjedt, beleértve még álhírek gyártását is a mesterséges intelligencia használatáról.

A jelentés több olyan csoportot külön is kiemel, amelyek kibertámadások végrehajtásához használták a ChatGPT-t. Az egyiket az iráni Forradalmi Gárdához kötik, ami ipari vezérlőrendszereket (ICS) vett célba például Írországban és az Egyesült Államokban működő vízszolgáltatóknál. A CyberAv3ngers nevű csoport támadásai az OpenAI jelentése alapján nem épültek kifinomult hekkelésre: arra támaszkodtak, hogy sok szervezet az internet felé nyitva hagyja az ICS-eket, amelyeket könnyen feltörhető hitelesítő adatokkal véd.

Maga az OpenAI is célponttá vált

A ChatGPT-t ebben az összefüggésben felderítésre használták, de igénybe vették a sebezhetőségek kihasználásában, az észlelés kijátszásában és a rendszerek kompromittálását követő tevékenységekben. Az OpenAI persze azt is kimutatta a támadók ChatGPT-vel végzett műveleteiről, hogy azok nem biztosítottak számukra "semmilyen új képességet, erőforrást vagy információt", és csak olyan készségeket tettek lehetővé, amelyekre "nyilvánosan elérhető, nem MI-vel által támogatott eszközökön keresztül" is szert tehettek volna.

A SecurityWeek riportja ezzel kapcsolatban megjegyzi, hogy az amerikai kormány már nyilvánosságra hozta a Cyber ​​Av3ngers több állítólagos tagjának kilétét, és akár 10 millió dollárt is hajlandó fizetni a hackerekkel kapcsolatos információért. Érdekesség, hogy a jelentés egyik Kínához köthető szereplője, a SweetSpectre csoport nem csak felderítésre, malware-ek fejlesztésére vagy social engineeringre használta a ChatGPT-t, hanem még az OpenAI alkalmazottaihoz is megpróbált e-mailben eljuttatni rosszindulatú szoftvereket.

Részletek az OpenAI októberi biztonsági jelentésében »