Ma már közhely, hogy a mesterséges intelligencia által működtetett chatbotok attól függetlenül kiszámíthatatlanok, hogy milyen korlátozásokkal próbálják a kimeneteiket az elvárt mederben tartani. Ez ugyanúgy igaz a technolgia csúcsát jelentő megoldásokra, mint az OpenAI ChatGPT-re vagy a Google Bardra, és minden bizonnyal azok kínai megfelelőire is. A The New York Times beszámolója szerint azonban a kínai digitális határain belül működő chatbotoknak ettől függetlenül meg kell felelniük a kormányzati cenzúra szabályainak, és nem egyértelmű, hogy a fejlesztők úgy is képesek lesznek-e eleget tenni ezeknek a követelményeknek, hogy ezzel ne nyírják ki rövid úton a robotok lényegi működését.

A kínai kibertér-adminisztráció ebben a hónapban ismertette a generatív mesterséges intelligenciára vonatkozó szabályozástervezetét, amelyik kimondja, hogy az ilyen cégeknek is figyelembe kell venniük a Kínai Kommunista Párt cenzúraszabályait, mint ahogyan más online alkalmazásoknak is kerülniük kell a kínai vezetőket gyalázó vagy a tiltott történelmet felidéző ​​anyagok közzétételét. Az MI-rendszereknek ezen felül tükrözniük kell a "szocialista alapértékeket", ami nem fér össze az államhatalmat vagy a nemzeti egységet aláásó információkkal sem, de a biztonsá kedvéért a fejlesztőknek regisztrálniuk is kell a szabályozó hatóságoknál az MI-chatbotok működéséért felelős rendszereket.

A lap mások mellett egy pekingi székhelyű tanácsadó cég képviselőjét idézi, aki emlékeztet rá, hogy a kommunista pártkormány a technológiai szabályozást is hajlamos gyorsan és erőből intézni: ha valamiről úgy érzi, hogy meg kell tennie, akkor azt meg is teszi, legfeljebb a későbbiekben majd felülvizsgálja az intézkedések hatásait. A szöveggyártó algoritmusok nyugati elterjedését persze Kína sem nézheti tétlenül, így az Alibaba vagy a Huawei is saját, széles körben használható nagy nyelvi modelleken dolgozik. A generatív MI azonban a NYT riportja szerint a kommunista párt két alapvető célját ütközteti, vagyis az információ ellenőrzését és a vezető szerep elérését a mesterséges intelligencia területén.

Nincs szükség helytelen nézőpontokra

Miközben hivatalosan sem a ChatGPT, sem a Bard nem érhető el az országban, a kínai szakemberek javában kísérleteznek a saját megoldásokkal, amelyek közül az egyiket, a ChatYuan nevű applikációt rövid idő után már el is kellett távolítani az alkalmazásáruházakból. A cikk alapján a ChatYuan februárban jelent meg, és már az első órában több mint 10 ezer letöltést jegyezhetett, de a villámkarriernek hamar vége szakadt. A robot ugyanis sivár kilátásokat festett a kínai gazdaság állapotáról, és Oroszország ukrajnai inváziójára is agressziós háborúként hivatkozott, ami nem igazán felel meg a fent kijelölt irányvonalnak, szerencsére az alkalmazás hibaelhárítás miatt már hetek óta elérhetetlen.

A NYT szerint ez alatt azt kell érteni, hogy a bot készítője a technológia "hazafiasabb" változatán dolgozik, az eset pedig azt mutatja, hogy a cenzúra megszokott működése ezúttal kifejezetten rosszkor jön a "nemzetközi mesterségesintelligencia-fegyverkezési versenyben", amelyben az ilyen szabályozások érdemben visszavethetik Kínát. A ChatYuan fejlesztése például most arra koncentrál, hogy kiszűrjék az érzékeny kulcsszavakat, és felvegyenek egy nagy rakás humán alkalmazottat, aki manuálisan jelölgetik az MI-chatbot problémás kimeneteit. Sőt a lap szerint még egy másik modellt is elkezdtek kiképezni azzal a kifejezett céllal, hogy észlelje és kiszűrje a beszélgetésekből a "helytelen nézőpontokat".

A párttagok hűségét és eltökéltségét erősítő mesterséges intelligenciáról ítt írtunk részletesebben. Arról, hogy a kormányzat hogyan próbálja oszlatni a befektetők aggodalmait az állami szabályozók folyamatos keménykedése után, itt volt szó utoljára.