A kínai kormányzati internetes szabályozó (Cyberspace Administration of China - CAC) decemberben jelentette be azokat az új rendeleteket, amelyek célja a mesterséges intelligencia segítségével előállított média betiltása volt minden olyan esetben, amikor annak forrását nem jelzik egyértelműen. Bár a CAC már három évvel ezelőtt illegálisnak nyilvánította az MI által létrehozott "álhírek" közzétételét és terjesztését, az új szabályrendszer azoknak az alkalmazásoknak a felfutására reagál, amelyek bárkinek lehetőséget nyújtanak a szövegek, képek, videók vagy zene előállítására.

Tegnap végül életbe is léptek az új korlátozások, amely betiltják az álhírek terjesztésére és az emberek beleegyezés nélküli megszemélyesítésére használt deepfake (mélyhamisítás) létrehozását. Az irányelvek megkövetelik az érintett szolgáltatóktól, hogy biztosítsák, MI-algoritmusaikat senki sem használhatja csalásokhoz vagy hamis és káros információk terjesztéséhez. Ezzel összefüggésben egyértelműen meg kell jelölniük a szintetikus tartalmakat valamilyen vízjel hozzáadásával. Az online identitást ezeken a platformokon kell hitelesíteniük, a felhasználóknak pedig lehetővé kell tenniük a gyanús tartalom bejelentését.

Mások egyelőre nem ennyire határozottak

A rendelkezések értelmében az olyan funkciókat biztosító szolgáltatásokat, mint az intelligens párbeszéd, a szintetizált emberi hang, az emberi arc generálása és a magával ragadó valósághű jelenetek, mind jól láthatóan jelezni kell a nyilvános összetéveszthetőség vagy téves azonosítás elkerülésére – derül ki a The Register keddi riportjából. Ugyanígy az is tilos, hogy bárki technikai eszközöket alkalmazzon ezek törlésére, tekintettel a deepfake technológiák látványos javulására és azok gyakori bevetésére a már reklámokban és filmekben is megjelenő kereskedelmi alkalmazásoknál.

Az utóbbi időben egyébként nem csak Kínában kérdőjelezték meg az olyan modellek engedély nélküli használatát, amelyeket mások fényképein és beszédfelvételein képeznek, legyen szó akár az elhunyt személyek ilyen módon való megjelenítéséről. Az Egyesült Államok néhány államában is betiltották a mélyhamisítás bizonyos formáit, és a szövetségi kormányzat is közzétett egyelőre nem kötelező erejű iránymutatásokat. Az EU ugyancsak saját szabályokat alkotott a deepfake korlátozására, beleértve a pénzbüntetés lehetőségét is az olyan szolgáltatóknál, amelyek nem rendelkeznek házirenddel a dezinformáció és a robotizált felhasználói fiókok észlelésére és eltávolítására.