Az OpenAI ChatGPT-je nem csak dolgozatokat vagy verseket, hanem meggyőző adathalász e-maileket is képes gyártani, méghozzá elképesztő sebességgel és mennyiségben – derül ki az IBM kutatói által közzétett tanulmányból. A szakemberek ebben részletesen leírják, hogyan terjesztettek ilyen üzeneteket egy valódi egészségügyi cégnél, és mire jutottak azt vizsgálva, hogy a ChatGPT által összeállított megtévesztő levelek mennyire hatékonyak a hozzáértő emberek által szerkesztett e-mailekhez képest.

A beszámolóból kiderül, hogy az IBM Security X-Force Red (a társaság etikus hekkeléssel foglalkozó szervezete) átlagosan 16 óra alatt épít fel egy adathalász támadást, ha nem számolunk az ahhoz szükséges infrastrukturális környezet felállításával. A ChatGPT-t ehhez képest öt egyszerű utasítással sikerült betrükközniük, hogy rendkívül meggyőző adathalász e-maileket hozzon létre annyi idő alatt, ameddig valaki elkészít egy csésze kávét – ez közel két munkanap megtakarítását jelenti minden ilyen esetben.

Innentől mozgásban kell maradnunk

Bár az X-Force kutatói egyelőre jobban értik a dolgukat a (nem kifejezetten erre tanított) mesterséges intelligenciánál, az általuk szerkesztett adathalász levelek 14 százalékos kattintási arányt értek el a ChatGPT 11 százalékos kattintási arányával szemben. Az időfaktort is figyelembe véve már erre sem lehet azt mondani, hogy az emberek egyértelmű győztesként kerültek ki a versenyből, a technológia fejlődésével pedig arra kell számítani, hogy a mesterséges intelligencia ebben is egyre kifinomultabbá és hatékonyabbá válik.

A tanulmány szerzői sem tehettek többet, mint hogy a kísérlet leírásával együtt tanácsokat adtak az ilyen jellegű támadások elleni védekezéshez. Ezek között szerepel például a telefonos ellenőrzés a legkisebb gyanús jelre (mint amilyen mondjuk az üzenetek hossza is lehet), a közeli barátokkal és családtagokkal közösen kiválasztott titkos jelszavak és általában az MI-vel kapcsolatos sztereotipiák elhagyása. A lényeg a folyamatos alkalmazkodás lesz egy olyan internethez, amit éppen eláraszt az MI által generált tartalom.

A kísérlet részletei az IBM odalán »