A hét elején olyan új szabályozást vezetett be a kínai kormány, amelyek célja hivatalosan az emberek MI-chatbotoktól való érzelmi függőségének visszaszorítása, különöstekintettel a kifejezetten emberi személyiségeket imitáló robotokra. Az intézkedés annyiban nem előzmények nélküli, hogy korábban már megfogalmaztak olyan elvárásokat, amelyek nyomán a Tencent például új szabályokat hozott az MI-avatárokra épülő "rossz minőségű tartalom" és a "virtuális emberek generálására képes szoftverek" értékesítésének tiltására, de a beszámolók szerint a mostani lépés egyik fő motivációja az egyre romló kínai születési statisztikák miatti aggodalom.

A Wall Street Journal riportja alapján már a kínai vezetés is aggályosnak tartja, hogy milyen sokan kerülnek érzelmi kapcsolatba a mesterséges intelligenciával hajtott chatbotokkal. Ez nyilvánvaló negatív pszichológiai hatásokkal járhat, függőséghez és más társadalmi problémákhoz vezethet, köztük ahhoz, hogy csökken a házasságkötések száma. A WSJ-nek nyilatkozó kutató szerint az új szabályozással a kínai kormányzat arra akarja ösztönözni az embereket, hogy valós, valós kapcsolatokban éljenek, mivel már valós veszélynek tűnik, hogy három-négy év múlva 15 millió kínai nő mondja majd, hogy a partnere egy chatbot, és ezért nem vállal gyereket.

Ahogy az Economist tudósításában olvasható, a jövőben megtiltanák a kiskorúaknak a szóban forgó MI-perszónákkal való kapcsolattartást, és arra is köteleznék a szolgáltatókat, hogy figyelmeztessék a felhasználó vészhelyzeti kapcsolattartóját, ha valamilyen mentális válság jeleit észlelik nála. Ilyen feliratkozási funkciója egyébként az OpenAI-nak is van, egyelőre kérdéses hatékonysággal és opcionális működéssel. Az MI által gerjesztett függőség pszichológiai hatásai lényegében még mindig ismeretlenek, az viszont nyilvánvaló, hogy az emberszerű viselkedésre tanított chatbotok komoly mentális problémákat okozhatnak.

Az okok nem egyértelműek, de a következmények igen

Az "MI-pszichózisnak" nevezett jelenség, a fals megerősítések és a felhasználókon eluralkodó téveszmék természetesen nem csak Kínában jelentek meg, és a mesterséges intelligencia modellekkel való "romantikus interakciókról" is megállapították, hogy mérhető függőséget okozhatnak. A Futurism a kínai szabályozás kapcsán megint arra a sokszor idézett stanfordi tanulmányra hivatkozik, amely szerint az ember-gép interakció során a "romantikus érdeklődést vagy plátói affinitást kifejező üzeneteket" egyre hosszabb beszélgetések követik, és a kutatók szerint az általános célú chatbotoknak egyáltalán nem lenne szabad ilyen üzeneteket létrehozniuk.

A lap felhívja a figyelmet az olyan jelenségekre, mint hogy az MI-társakkal romantikus kapcsolatot folytató felhasználók körében már tragédiákhoz is vezettek egyes termékfrissítések vagy -visszahívások. A július 15-én hatályba lépett kínai előírások a maguk nemében az első kísérletet jelentik ezeknek a hatásoknak a visszaszorítására, a kiskorúaknak betiltva és a felnőtteknek is szigorúan szabályozva "virtuális társkereső szolgáltatásokat", betiltva a pornográfia megjelenítését és kötelezve a szolgáltatókat, hogy rendszeresen emlékeztessék a felhasználókat: nem valódi emberekkel beszélnek, és időnként érdemes lenne szüneteket tartaniuk.