A kínai kormányzati internetes szabályozó (Cyberspace Administration of China - CAC) olyan rendeleteket adott ki, amelyeken keresztül betiltja a mesterséges intelligencia segítségével előállított médiát, ha annak forrását nem jelzik egyértelműen. A kínai kormány a beszámolók szerint aggasztónak tartja, hogy félrevezethetik a közvéleményt az olyan manipulált videók vagy képek, amelyek szereplői olyan dolgokat mondanak vagy tesznek, amelyeket valójában nem mondtak vagy tettek. A CAC már három évvel ezelőtt illegálisnak nyilvánította az MI által létrehozott "álhírek" közzétételét és terjesztését, az új szabályrendszer viszont azoknak az alkalmazásoknak a népszerűségére reagál, amelyek bárkinek lehetőséget nyújtanak a szövegek, képek, videók vagy zene előállítására.

Miközben folyamatosan jelennek meg az ilyen generatív MI-alkalmazások vagy az intelligensnek mondott chatbotok, Kínában gyorsan felmérték, mi mindenre használhatják az emberek az egyre hatékonyabb mesterségesintelligencia-modellekre épülő eszközöket. Az ottani szabályozók egyértelműen az óvatosság pártján állnak velük kapcsolatban, ellentétben akár az Egyesült Államokkal, ahol eddig legnagyobb részben a magánszektorra hagyták a szabályok kialakítását, nyitva hagyva egy nagy csomó etikai és jogi kérdést. A kínai lépések ehhez képest elég látványosak, hasonlóan ahhoz, mint amikor tavaly lényegében betiltották a kriptoeszközök kiadását és kereskedését, de azt is megmutatják, hogy létezik határozott fellépés a potenciálisan káros technológiával szemben.

A veszélyt mindenhol érzékelik

Bár a kínai állam nyilván mást ért a társadalmi károkozáson, mint a nyugati országok, az is tény, hogy a mélyhamisításokat (deepfake) már világszerte használták gazdasági bűncselekmények elkövetésére, vagy a zűrzavar és téves információk terjesztésére olyan esetekben, mint amikor Volodimir Zelenszkij ukrán elnök képmása a közösségi médiában terjedő videókon fegyverletételre szólította fel az ukrán katonákat. A Kínában most kiadott szabályozás szerint eleve tilos az alany engedélye nélkül létrehozni az őt megjelenítő médiatartalmakat, és minden olyan anyagot, ami a nemzeti érdekkel ellenkezik. A rendelkezések hatálya alá tartozó eszközöket olyan technológiaként határozzák meg, amelyek "mélytanulást, virtuális valóságot és más szintézisalgoritmusokat használnak szövegek, képek, hangok, videók és virtuális jelenetek létrehozására".

Az intézkedéseket a kommentárok érdekes inflexiós pontnak tartják abban a tekintetben, hogy a műalkotásokat gyártó generatív mesterséges intelligencia például világszerte, így Kínában is lázba hozta az internetezőket. Az nyilván csak később fog kiderülni, hogy az új szabályok milyen hatással lesznek erre a trendre, mint ahogy az is érdekes lesz, hogy milyenek lesznek a kínai nemzeti érdekekkel ellenkező felhasználások. A beszámolók ugyanakkor arra is felhavják a figyelmet, hogy nem a kínai kormány az egyetlen, ahol tartanak a generatív MI kártékony hatásaitól. Október elején már a Biden-adminisztráció is közzétette saját, nem kötelező erejű iránymutatásait – más kérdés, hogy ezeknek egyelőre csak a kormányzati alkalmazásokra lehet érdemi hatásuk, de a big tech vállalatok vastag bőrén sokak szerint nem hatolnak át.