A Reuters hétfői beszámolója szerint a kínai szabályozók új rendelkezéseket jelentettek be a videó- és hanganyagok online terjesztését illetően, különös tekintettel a technológiai eszközökkel manipulált anyagok készítésére és megosztására. A januártól életbe lépő szabályok értelmében a mesterséges intelligencia vagy a virtuális valóság felhasználását egyértelmű módon jelezni kell majd az ilyen tartalmak esetében, ennek elmulasztása pedig büntetőjogi következményeket von maga után – derül ki a kibertér felügyeletéért felelős állami hivatal (Cyberspace Administration of China, CAC) hivatalos oldalán megjelent közleményből.

Ahogy arról az online szolgáltatókat már a múlt héten tájékoztatták, az új rendelkezések legfőbb célja a deepfake technológiák által okozott problémák megelőzése, amelyek segítségével ma már egyre könnyebben és egyre alacsonyabb erőforrásigénnyel lehet előállítani az emberi érzékszervek számára hitelesnek tűnő, de hamis képeket, videókat vagy hangfelvételeket. Az indoklás szerint a folyamatosan fejlődő mélytanuló algoritmusok segítségével hamisított tartalom lassan a kínai nemzetbiztonságot fenyegető tényezővé válik, veszélyeztetve a társadalmi stabilitást, egyben megsértve mások törvény által biztosított jogait és érdekeit.

A legfőbb kínai szabályozó szervezet az idén már belengette, hogy a deepfake technológiák használatának kriminalizálását fontolgatja, ennek első lépcsője a januártól érvényes korlátozás. Hogy nem csak a kínai megfigyelőállam legújabb nünükéjéről va szó, azt jól mutatják a világszerte szaporodó aggodalmak: Kalifornia államban például októberben szövegeztek meg két új törvényt, amelyekkel szintén a mesterséges intelligenciával manipulált tartalmak elszaporodásának próbálnának gátat szabni. Bár a gépi algoritmusok segítségével hamisított felvételek már hosszú ideje ismertek például a pornográfiában, ma már aránylag kevés befektetéssel készíthetőkolyan anyagok is, amelyben mondjuk egy politikussal mondatnak el bármit a rosszakarói.

A felhasználók józanságára kár lenne építeni

A videók manipulálására alkalmas szoftverekkel a 90-es években is kísérleteztek, a technológia sokak szerint mostanra ért kritikus fázisba. A nagy tartalomszolgáltató és -megosztó oldalak bejelentették ugyan, hogy kitiltják szolgáltatásaikból az ilyen tartalmakat, de lassan lehetetlen lesz eldönteni, hogy melyik anyag hamisítvány. Ráadásul a cél nem minden esetben az emberi érzékszervek átverése: tavaly kiderült, hogy mások mellett az önvezető autók KRESZ-táblákat azonosító mintafelismerő rendszere is meglepően könnyen becsapható. Gépi ellenőrző eszközökkel persze automatizálható és hatékonyabbá tehető a hamisítványok felfedése, de ez is folyamatos versenyfutást jelent a rosszindulatú felhasználással.

Visszatérve a kínai szabályozásra, szeptemberben mi is foglalkoztunk a Zao arccserélő alkalmazással, amelynek segítségével bárki belerakhatta a saját arcát hírességekről készült videókba. A Zao egyből a kínai App Store letöltési toplistájának élmezőnyébe került, azonban miután kiderült, hogy az applikáció végfelhasználói szerződésevisszavonhatatlan és teljes körű jogokat ad az appot fejlesztő Momónak az elkészített tartalmak felhasználására, hatalmas botrány lett a dologból. Bár a feltételeket időközben megváltoztatták, az eltelt időben sok millióan töltöttek fel magukról fotókat, amit a cég tényleg arra használt, amire csak akart – hasonlóan a többi ilyen jellegű alkalmazáshoz (például a FaceApp-hoz), amelyekre szintén milliók szokták rávetni magukat, mielőtt valaki elkezdene hangoskodni az adatvédelmi problémák miatt.