Az már a ChatGPT tavaly év végi robbanásszerű sikert hozó debütálása előtt is világos volt, hogy a mesterséges intelligencia által kreált anyagok az átlagos felhasználók számára egyre inkább megkülönböztethetetlenné válnak a valódi szövegektől, képektől, videóktól.

A generatív MI körüli felhajtás rögtön elő is hozott egy sor problémát, amire már korábban is figyelmeztettek szakértők, ám ezekkel most egyre gyakrabban találkozhatunk kijózanító példák formájában.

Deepfake news

Tegnap a Twitteren kezdett keringeni egy "rendkívüli hír", miszerint a Pentagonnál robbanás történt. Az értesülést ráadásul egy fotóval is alátámasztották az terjesztők, amelyen sűrű füst gomolygott közvetlenül az USA védelmi minisztériumának központja mellett.

A bökkenő mindösze az volt, hogy ebből valójában semmi nem volt valós, a képet ugyanis minden bizonnyal MI segítségével rakták össze. Ennek jelei gondosabb tanulmányozás után fellelhetők a fotón (eltérő szélességű oszlopok, homályos részek a képen stb.), de egy felületesebb pillantás esetében valóban hihetőnek tűnő jelenetet ábrázol.
 

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

Az álhír hatását fokozta, hogy egy magát a Bloomberg részének kiadó fiók is posztolta a képet. A @BloombergFeed mögött ráadásul ott figyelt a korábban az ellenőrzött fiókok igazolására használt kék pipa, amit azonban az új tulajdonos Elon Musk a pénz reményében mostanság bárkinek kioszt, csak fizesse rendesen a Blue szolgáltatás havi díját. (A fiókot azóta felfüggesztették.)

A gyors beavatkozás sem volt elég

A fenti körülmények összjátéka miatt hiába léptek fel a hatóságok példás gyorsasággal, a bombasztikus hülyeség így is okozott némi zavart az amerikai tőzsdén: az egyébként jó hangulatú kereskedés hirtelen lejtmenetbe váltott. A minimális árcsökkenést a történtek tisztázódása után gyorsan ledolgozták a részvények, ám ez a rövid periódus is elég lehetett egyeseknek arra, hogy tisztességtelen eszközökkel kössenek profitábilis üzleteket.