A Vice riportja szerint az Amazonnak már nem csak azokkal a kamu értékelésekkel kell megküzdenie, amelyekkel egyes eladók hosszú évek óta tömik a kereskedelmi platformot, hanem az utóbbi időben elárasztották a mesterséges intelligencia által generált hamis vélemények is. Ehhez a csalók olyan eszközöket használnak, mint amilyen a ChatGPT, de a lap szerint egyelőre meglepően egyszerű dolog kiszűrni az automatikusan létrehozott kommentárok jó részét. Sok esetben ugyanis felbukkan bennük az "as an AI language model" (magyarul inkább "mivel én egy mesterséges intelligencia vagyok" vagy "mint mesterséges intelligencia") kifejezés, amit a ChatGPT előszeretettel használ a különféle kérdésekre adott válaszaiban.

A lap beszámolójából kiderül, hogy ez a felvezetés már rendszeresen felbukkan a különösen lusta értékelésben, világosan mutatva, hogy azokat nem emberek írták. Ez különösen igaz, ha arra utasítják a programot, amit nem szabad megtennie, például szabadkozik, hogy "mint mesterséges intelligencia" nem áll módjában helytelen vagy sértő tartalmat generálni. A hasonló kifejezésekre már egy sima netes keresés is nagy mennyiségű találatot dob az Amazon oldalairól, ahol a jelek szerint tényleg hemzsegnek a ChatGPT-vel generált vélemények, és sok esetben éppen azt magyarázzák, hogy MI-ként nem lehet személyes tapasztalatuk, de az online elérhető információk alapján képesek pozitív vagy negatív értékelést adni.

Az Amazon képviselője a Vice technológiai rovatának, a Motherboard nyilatkozva hangsúlyozta, hogy a társaság zéró toleranciát alkalmaz a hamis értékelésekkel szemben, a felhasználók által olvasható vélemények hitelesek és megbízhatóak maradjanak. Ennek értelmében felfüggesztik és letiltják azokat, akik megsértik az irányelveket, a megtévesztő véleményeket pedig eltávolítják az oldalról. A cég elemzőket és különböző szakértőket alkalmaz a csalók felkutatására és a bizonyítékok begyűjtésére, hogy később jogi lépéseket tehessen ellenük. Ez az MI-chatbotok jelenlegi fejlettsége mellett talán nem is annyira bonyolult feladat, de ahogy a dolgok alakulnak, nemsokára sokkal nehezebb lesz kiszúrni az ilyen kommenteket.

Az előállítók helyett a terjesztőknél kellene kopogtatni

A dolog egyébként nem csak az Amazont érinti súlyosan: a ChatGPT-alapú spamhálózatok a Twittert sem kímélik, és ugyanúgy teleszórják a sajátos hibaüzeneteket tartalmazó bejegyzésekkel. Ahogy a Vice is megjegyzi, a nagy nyelvi modellek fejlődésével a csalók valószínűleg egyre könnyebben kerülhetik el a lelepleződést, és egyre simábban áraszthatják el az internetet hamis információval, legyen szó a hamis értékelésről vagy az összehangolt dezinformációs kampányokról. Emellett úgy tűnik, hogy a felismerést segítő eszközök sem teljesítenek valami fényesen: még a ChatGPT-t fejlesztő OpanAI saját megoldása sem képes következetesen megkülönböztetni a mesterséges szövegeket az ember által írottaktól.

A cikkben megszólaló egyetemi kutató szerint félrevezetés mindig is létezett, de a közösségi média jelentősen rontotta a helyzetet, ahogy lenyomta a dezinformáció költségeit. A generatív MI-eszközök pedig még tovább csökkentik az ahhoz szükséges befektetést, hogy szándékosan hamis, de hitelesnek tűnő tartalmat állítsanak elő és terjesszenek nagy léptékben. Egyelőre nem vagyunk tisztában a probléma nagyságrendjével sem, az emberi beavatkozás pedig nem skálázható megfelelően, miközben az MI-chatbotok már sikeres szakmai vizsgák letételére is képesek. Az egyetlen megoldásnak azt látja, ha a tartalom terjesztését is szabályoznák, vagyis ha a nagyobb tömegekhez eljutó információról igazolni kellene, hogy valódi, és ellenőrzött forrásból származik.