Peking igyekszik a lehető legszigorúbb keretrendszert felállítani a generatív algoritmusok fejlődése miatt ma már bárki által készíthető MI-tartalmak megfelelő mederben tartására. Ez a megfelelő meder egyrészt minimalizálja a manipulatív és káros deepfake tartalmak megjelenésének kockázatát, nem mellesleg pedig garantálja, hogy a kínai netezők ne merjenek az állampárt számára kellemetlen anyagokat kreálni. (A politikai kellemetlenségek elkerülése végett a Midjourney például külön betiltotta, hogy a felhasználók Hszi Csin-ping elnökről készítsenek kamu fotókat a képgeneráló modelljével.)

Az internet működését szabályozó kínai hatóság által néhány napja közzétett tervezet szerint minden platform és online szolgáltató, valamint maguk a felhasználók is kötelesek lesznek minden mesterséges intelligenciával készült tartalmat megfelelő jelölésekkel, például logóval és pontos metaadatokkal ellátni.

A javaslat alapján a hangalapú anyagoknál a műsor elején és végén, sőt adott esetben közben is el kell hangoznia egy figyelmeztetésnek a generatív algoritmus használatáról. Hasonló rendelkezések körvonalazódnak a videók esetében is, de ebben az esetben elégséges a szöveges jelzés.

A felhasználóknak is jó lesz vigyázni

Lényeges elem, hogy mindezekért nem csupán a platformok üzemeltetőit, hanem az ilyen tartalmakat közzétevő felhasználókat is felelősségre vonhatják. A generatív modellek használata eleve csak beazonosítás után lehetséges, és az így készült alkotásokkal kapcsolatban minimum 6 hónapig meg kell őrizni a naplófájlokat az adott szolgáltatónak.

Amennyiben egy fájl nem tartalmaz metaadatokat, azt az online platformoknak kötelező lesz átvizsgálni, és amennyiben megállapítják, hogy MI-vel készült, akkor a megfelelő jelölésekkel ellátni. Ezzel kapcsolatban a hatóság felszólítja az internetes szolgáltatókat az együttműködésre, ami a remények szerint elősegítheti az algoritmusok által kreált tartalmakat megbízható felismerését.

Ahogy a témáról beszámoló The Register is megjegyzi, ugyan a most nyilvánosságra került anyag még csak egy tervezet, de a kínai egypártrendszer működését ismerve nem sok kétség lehet afelől, hogy mindez hamarosan jogszabályokba foglalt kötelezettséggé válik.