Az American Security Project nevű, kétpárti támogatással működő nonprofit agytröszt vizsgálatai szerint a legnépszerűbb MI-modell mindegyike elfogultságot mutat a kínai állampárt nézőpontját illetően, különböző mértékben visszamondva a kínai kormányzati propagandát és akár cenzúrázva is az ott nem megfelelőnek ítélt anyagokat. A szóban forgó modellek közül csak a DeepSeek-R1 származik Kínából, de az OpenAI ChatGPT, a Microsoft Copilot, a Google Gemini vagy az xAI Grok esetében jelentős következményekről írnak a globális MI-fejlesztésekre és az amerikai nemzetbiztonságára nézve is.

A jelentés szerint a Copilot nagyobb valószínűséggel fogadja el hitelesnek vagy érvényesnek a kínai dezinformációt, és a Grok a leginkább kritikus azzal kapcsolatban. Arra a kérdésre például, hogy mi történt 1989. június 4-én, a modellek általában nem foglaltak állást, megnevezve mondjuk az elkövetőket és az áldozatokat. Angol nyelven csak a Grok írta le egyértelműen, hogy a pekingi Tienanmen téren a hadsereg fegyvertelen civileket ölt meg, a kínai nyelvű kérdésekre pedig csak a ChatGPT írt mészárlásról, miközben a Copilot a DeepSeekhez hasonlóan "június 4-i incidenst" emlegetett.

Más esetekben is így működnek

Ebben az esetben a vizsgált modellek kiválasztása nyilván önkényes volt, mint ahogy azok a források sem feltétlenül egyeznek meg mennyiségükben és minőségükben, amelyekből az MI-rendszerek dolgoznak. A kutatás vezetője a The Registernek mindenesetre elmondta, hogy nem is önmagában a kínai propaganda a probléma, hanem az, ha a modellek globális információs környezetben való képzése során a dezinformációt ugyanarra a hitelességi küszöbre helyezik. Mivel pedig az MI statisztikai módszerekkel dolgozik, önmagában véve teljesen közömbös a kimenetek igazságát illetően.

A dolog annyival bonyolultabb, hogy a kutatók szerint sem valósítható meg az idealizált politikai semlegesség, de más dolog a Kínai Kommunista Párt hivatalos dokumentumaiban és jelentéseiben használt kínai karaktereket viszontlátni a DeepSeek és a Copilot válaszaiban. A fejlesztőknek könnyebb az adatokat válogatás nélkül felszippantani, aztán ad hoc módosításokat végezni, miközben a nyilvánosság nem teljesen érti, hogy az MI-modellek sehogyan sem viszonyulnak az igazsághoz. Így nemcsak a propaganda szalad át rajtuk, de bármilyen más kártékony dolog is, ha statisztikailag megfelelően elterjedt.

Tovább a The Register riportjára »