A NewsGuard nevű, félretájékoztatást monitorozó szervezet friss jelentése szerint a legnépszerűbb MI-eszközök gyakran közvetítenek hamis narratívákat, közvetlen hivatkozásokkal egy orosz államhoz kötött dezinformációs csatornákra, vagyis a magukat helyi üzleti vállalkozásoknak álcázó álhíroldal-hálózatra. A NewsGuard tíz chatbotot tesztelt, köztük az OpenAI ChatGPT-jét, a Google Geminit, az xAI-féle Grokot, az Anthropic Claude robotját vagy a Perplexity keresőt, ennek során pedig magában foglaló NewsGuard-audit során megállapította, hogy az álhírek simán megjelennek ezekben az alkalmazásokban.
A vizsgálatban egy volt floidai seriffhelyettes, John Mark Dougan által üzemeltetett hálózatot említenek, amit a dezinfomációs oldalak kiterjedt, nagyrészt mesterséges intelligenciával működő konstellációjaként írnak le. Dougan, aki Moszkváig menekült az odahaza ellene felhozott hekkervádak elől, ezek szerint a fenti MI-alkalmazásokat is sikeresen elárasztotta álhírekkel, amelyek papagájként ismételgetik azokat, az esetek hamadában még hivatkozva is a megtévesztő címek és forma alatt működő híroldalakra. A jelentés megállapítja, hogy "az orosz dezinformációs narratívák beszivárogtak a generatív MI-be".
Több mint indokolt a bizalmatlanság
A tesztek során a chatbotok üzembiztosan kiköpték a Volodimir Zelenszkij ukrán elnökől vagy a néhai Alexej Navalnij orosz ellenzéki politikus özvegyéről szóló hazugságokat, amikor a NewsGuard kutatói egy adott összeesküvésről kérdezték azokat. A mesterséges intelligencia ilyen jellegű adatgyűjtési hibái pedig nyilvánvalóan nem sorolhatók az úgynevezett "MI-hallucinációk" közé, és jól mutatják a technológiai szolgáltatók szerepét a félretájékoztatási folyamatokban – ezekben az esetekben ugyanis az álhírek és a mögöttük álló személy kiléte is egészen nyilvánvaló, mégis gond nélkül megjelennek az MI kimeneteiben.
A NewsGuard nem meglepő módon azt javasolja, hogy aki a világ híreire kíváncsi, az egyelőre ne az MI-chatbotokhoz foduljon információért. Szerencsére a felhasználók többsége egyelőre nem is erőlteti a dolgot. A jelentésről beszámoló Futurism egy másik kutatást is idéz, amelynek alapján az amerikaiak 52 százaléka, a briteknek pedig 63 százaléka kifejezetten bizalmatlan a mesterséges intelligenciával generált híszolgáltatások iránt, és csak 23, illetve 10 százalékuk nyilatkozik úgy, hogy már a jelenlegi formájukban sincs semmi problémája az MI-technológiáka épülő internetes tájékoztatással.
Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében
"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.
Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni
A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak