A ChatGPT-be natív módon beépülő képgeneráló funkció szűk két héttel ezelőtti bemutatkozásakor a fejlesztő OpenAI külön kihangsúlyozta, hogy ugyan a "mai generatív modellek képesek szürreális, lélegzetelállító jeleneteket varázsolni, de nehezen boldogulnak azokkal a képekkel, amelyeket az emberek információ megosztására és létrehozására használnak". Az ígéret viszont az volt, hogy ez utóbbiakkal is jól megbirkózik a cég fejlesztése, így többek között pontosan jelennek meg a képeken a szövegek, amivel valóban akadtak gondjaik az eddigi megoldásoknak.

Mint kiderült, az OpenAI nem a levegőbe beszélt. A betűket tényleg képes úgy rendezni az algoritmus, hogy annak értelme legyen. Más kérdés, hogy mindez nem feltétlenül jelent sok jót a közeljövőre nézve. A problémát jól illusztrálja a Menio Ventures kockázatitőke-társaság vezetője, Deedy Das által posztolt kép, amelyen egy San Francisco-i étteremben elköltött vacsora számlája látható.

You can use 4o to generate fake receipts.

There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb

— Deedy (@deedydas) March 29, 2025

Az igazgató az eset kapcsán rögtön a valódi képeken alapuló azonosítási folyamatok halálát emlegeti, ám az X-bejegyzés alatti kommentek egy része igyekszik finomítani a kérdést. Egyrészt első látásra bármennyire is élethűnek tűnik a rajzolt számla, több elemén is tetten érhető a képgenerátorok műviessége. A betűk például túlságosan homogén, élénk színben pompáznak, amire egy pénztárgépi nyomtató nemigazán képes, ráadásul a hitelességet "bizonyító" gyűrődésekkel sincsenek szinkronban. Mások arra hívták fel a figyelmet, hogy ilyesmi a Photoshop megjelenése óta készíthető. 

Való igaz, a deepfake-kel, azaz a hamisított digitális tartalmak problematikájával régóta próbál valamit kezdeni az emberiség, Kaliforniától az Európai Unióig, miközben maguk a techcégek és internetes platformok is próbálkoznak valamiféle közös védelmet építeni. A visszaélések ellen természetesen magának az OpenAI-nak is folyamatosan finomítania kell saját biztonsági mechanizmusait, amivel például megakadályozták, hogy százezrével készüljenek kamu képek az amerikai elnökjelöltekről.

Valószínűsíthető, hogy a fenti eset után a számlák készítése is a ChatGPT etikai hátterű tiltólistájára kerül, de Deedy Das kreálmánya annyiban mindenképpen fontos üzenet, hogy az ingyenes változatba bekerült képgenerátornak "köszönhetően" immár tényleg semmiféle képzettség, sőt még pénzbeli ráfordítás sem kellett ahhoz, hogy bárki a világon ilyen minőségű hamisítványokat kreáljon szakmányban.

Megannyi probléma

Az OpenAI frissen debütált képgenerátorának ugyanakkor ez már nem is az első kétes ügye. Mint arról mi is beszámoltunk, a japán Studio Ghibli stílusában generált mémekkel nemcsak a generatív MI és annak fejlesztői gázolnak egyre mélyebbre az ízléstelenségben, hanem az is kiderült, hogy házon belül sem egyértelmű számukra a szerzői jogok kezelése.

(A címlapképet a ChatGPT képgenerátora készítette.)