A nagy részüket ma még nem nehéz kiszúrni, de a mesterséges intelligencia azonban gyorsan fejlődik, és nemsokára simán kijátssza majd a közösségimédia-platformok amúgy is gyenge moderációs védelmét.
Hirdetés
 

A Vice riportja szerint az Amazonnak már nem csak azokkal a kamu értékelésekkel kell megküzdenie, amelyekkel egyes eladók hosszú évek óta tömik a kereskedelmi platformot, hanem az utóbbi időben elárasztották a mesterséges intelligencia által generált hamis vélemények is. Ehhez a csalók olyan eszközöket használnak, mint amilyen a ChatGPT, de a lap szerint egyelőre meglepően egyszerű dolog kiszűrni az automatikusan létrehozott kommentárok jó részét. Sok esetben ugyanis felbukkan bennük az "as an AI language model" (magyarul inkább "mivel én egy mesterséges intelligencia vagyok" vagy "mint mesterséges intelligencia") kifejezés, amit a ChatGPT előszeretettel használ a különféle kérdésekre adott válaszaiban.

A lap beszámolójából kiderül, hogy ez a felvezetés már rendszeresen felbukkan a különösen lusta értékelésben, világosan mutatva, hogy azokat nem emberek írták. Ez különösen igaz, ha arra utasítják a programot, amit nem szabad megtennie, például szabadkozik, hogy "mint mesterséges intelligencia" nem áll módjában helytelen vagy sértő tartalmat generálni. A hasonló kifejezésekre már egy sima netes keresés is nagy mennyiségű találatot dob az Amazon oldalairól, ahol a jelek szerint tényleg hemzsegnek a ChatGPT-vel generált vélemények, és sok esetben éppen azt magyarázzák, hogy MI-ként nem lehet személyes tapasztalatuk, de az online elérhető információk alapján képesek pozitív vagy negatív értékelést adni.

Az Amazon képviselője a Vice technológiai rovatának, a Motherboard nyilatkozva hangsúlyozta, hogy a társaság zéró toleranciát alkalmaz a hamis értékelésekkel szemben, a felhasználók által olvasható vélemények hitelesek és megbízhatóak maradjanak. Ennek értelmében felfüggesztik és letiltják azokat, akik megsértik az irányelveket, a megtévesztő véleményeket pedig eltávolítják az oldalról. A cég elemzőket és különböző szakértőket alkalmaz a csalók felkutatására és a bizonyítékok begyűjtésére, hogy később jogi lépéseket tehessen ellenük. Ez az MI-chatbotok jelenlegi fejlettsége mellett talán nem is annyira bonyolult feladat, de ahogy a dolgok alakulnak, nemsokára sokkal nehezebb lesz kiszúrni az ilyen kommenteket.

Az előállítók helyett a terjesztőknél kellene kopogtatni

A dolog egyébként nem csak az Amazont érinti súlyosan: a ChatGPT-alapú spamhálózatok a Twittert sem kímélik, és ugyanúgy teleszórják a sajátos hibaüzeneteket tartalmazó bejegyzésekkel. Ahogy a Vice is megjegyzi, a nagy nyelvi modellek fejlődésével a csalók valószínűleg egyre könnyebben kerülhetik el a lelepleződést, és egyre simábban áraszthatják el az internetet hamis információval, legyen szó a hamis értékelésről vagy az összehangolt dezinformációs kampányokról. Emellett úgy tűnik, hogy a felismerést segítő eszközök sem teljesítenek valami fényesen: még a ChatGPT-t fejlesztő OpanAI saját megoldása sem képes következetesen megkülönböztetni a mesterséges szövegeket az ember által írottaktól.

A cikkben megszólaló egyetemi kutató szerint félrevezetés mindig is létezett, de a közösségi média jelentősen rontotta a helyzetet, ahogy lenyomta a dezinformáció költségeit. A generatív MI-eszközök pedig még tovább csökkentik az ahhoz szükséges befektetést, hogy szándékosan hamis, de hitelesnek tűnő tartalmat állítsanak elő és terjesszenek nagy léptékben. Egyelőre nem vagyunk tisztában a probléma nagyságrendjével sem, az emberi beavatkozás pedig nem skálázható megfelelően, miközben az MI-chatbotok már sikeres szakmai vizsgák letételére is képesek. Az egyetlen megoldásnak azt látja, ha a tartalom terjesztését is szabályoznák, vagyis ha a nagyobb tömegekhez eljutó információról igazolni kellene, hogy valódi, és ellenőrzött forrásból származik.

Közösség & HR

Jól vizsgázott üzletfolytonosságból az ukrán techszektor

Az orosz támadás megindulásakor Harkivban 511 informatikai cég volt. Közülük 500 ma is működik, pedig a munkatársak többsége elköltözött a harcokat közvetlen közelről megszenvedő városból.
 
Az alábbiakban körbejárjuk az Enterprise Service Management fogalmát, és megmutatjuk azt is, miben különbözik az ITSM-től.

a melléklet támogatója a Meta-Inf Kft.

CIO KUTATÁS

TECHNOLÓGIÁK ÉS/VAGY KOMPETENCIÁK?

Az Ön véleményére is számítunk a Corvinus Egyetem Adatelemzés és Informatika Intézetével közös kutatásunkban »

Kérjük, segítse munkánkat egy 10-15 perces kérdőív megválaszolásával!

LÁSSUNK NEKI!

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.