A napokban közzétett kutatásból kiderül, hogy a legnépszerűbb MI-robotok tényleg kritika nélkül bármit átemelnek bármilyen online felületről, és sokszor jelölnek meg forrásként közismert dezinformációs oldalakat.

A NewsGuard nevű, félretájékoztatást monitorozó szervezet friss jelentése szerint a legnépszerűbb MI-eszközök gyakran közvetítenek hamis narratívákat, közvetlen hivatkozásokkal egy orosz államhoz kötött dezinformációs csatornákra, vagyis a magukat helyi üzleti vállalkozásoknak álcázó álhíroldal-hálózatra. A NewsGuard tíz chatbotot tesztelt, köztük az OpenAI ChatGPT-jét, a Google Geminit, az xAI-féle Grokot, az Anthropic Claude robotját vagy a Perplexity keresőt, ennek során pedig magában foglaló NewsGuard-audit során megállapította, hogy az álhírek simán megjelennek ezekben az alkalmazásokban.

A vizsgálatban egy volt floidai seriffhelyettes, John Mark Dougan által üzemeltetett hálózatot említenek, amit a dezinfomációs oldalak kiterjedt, nagyrészt mesterséges intelligenciával működő konstellációjaként írnak le. Dougan, aki Moszkváig menekült az odahaza ellene felhozott hekkervádak elől, ezek szerint a fenti MI-alkalmazásokat is sikeresen elárasztotta álhírekkel, amelyek papagájként ismételgetik azokat, az esetek hamadában még hivatkozva is a megtévesztő címek és forma alatt működő híroldalakra. A jelentés megállapítja, hogy "az orosz dezinformációs narratívák beszivárogtak a generatív MI-be".

Több mint indokolt a bizalmatlanság

A tesztek során a chatbotok üzembiztosan kiköpték a Volodimir Zelenszkij ukrán elnökől vagy a néhai Alexej Navalnij orosz ellenzéki politikus özvegyéről szóló hazugságokat, amikor a NewsGuard kutatói egy adott összeesküvésről kérdezték azokat. A mesterséges intelligencia ilyen jellegű adatgyűjtési hibái pedig nyilvánvalóan nem sorolhatók az úgynevezett "MI-hallucinációk" közé, és jól mutatják a technológiai szolgáltatók szerepét a félretájékoztatási folyamatokban – ezekben az esetekben ugyanis az álhírek és a mögöttük álló személy kiléte is egészen nyilvánvaló, mégis gond nélkül megjelennek az MI kimeneteiben.

A NewsGuard nem meglepő módon azt javasolja, hogy aki a világ híreire kíváncsi, az egyelőre ne az MI-chatbotokhoz foduljon információért. Szerencsére a felhasználók többsége egyelőre nem is erőlteti a dolgot. A jelentésről beszámoló Futurism egy másik kutatást is idéz, amelynek alapján az amerikaiak 52 százaléka, a briteknek pedig 63 százaléka kifejezetten bizalmatlan a mesterséges intelligenciával generált híszolgáltatások iránt, és csak 23, illetve 10 százalékuk nyilatkozik úgy, hogy már a jelenlegi formájukban sincs semmi problémája az MI-technológiáka épülő internetes tájékoztatással.

Közösség & HR

Egyre kevésbé férnek hozzá az MI-fejlesztők a létfontosságú adatokhoz

A tartalomszolgáltatók sorra vezetik be a korlátozásokat az általuk közölt anyagok felhasználására, miközben a mesterséges intelligencia egyre többet követelne magának.
 
Általános jelenség a hazai nagyvállalatok körében, hogy a szükségesnél jelentősen többet költenek nyilvánosfelhő-szolgáltatásokra. Utánajártunk, mi a pontos helyzet, és mit lehet tenni a költségek optimalizálásáért.

a melléklet támogatója a 4iG Nyrt.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.