Bár egyre több kérdés és negatív tapasztalat gyűlik fel a mesterséges intelligencia biztonságával, megbízhatóságával és a felhasználók mentális egészségére gyakorolt hatásaival kapcsolatban, a technológia már megjelent a gyerekjátékokban is, egy frissen közzétett kutatás pedig azt is bemutatta, hogy az ilyen integrált megoldások pontosan a várható eredménnyel működnek. Az amerikai Public Interest Research Group fogyasztóvédelmi szervezet a termékek tesztelése során egészen érdekes eseteket jegyzett fel: a beszélgetések során az MI-vel tuningolt játékok simán elmagyarázzák a gyerekeknek, hogy hol érdemes keresni otthon a késeket, hogyan kell használni a gyufát, estenként pedig a szexuális pozíciókról és fétisekről is értekezésbe kezdenek.

Ahogy a szervezet a közleményében írja, a fulladásveszély vagy a káros anyagok használata továbbra is valós kockázat a gyerekjátékok esetében, bár ebben a tekintetben a helyzet sokat javult az elmúlt évtizedek során. A mesterséges intelligencia integrálása azonban újabb rizikót jelent, amivel még messze nem foglalkozik senki a probléma súlyához mérten, így a soron következő ünnepi időszakban rengeteg szülő és rokon fog anélkül ajándékokat vásárolni a gyerekeknek, hogy figyelembe venné a az MI-nek való kitettség problémáit. A fenti, eléggé konkrét veszélyek mellett ugyanis ott van például az adatvédelem témája is, hiszen az új játékok rögzíthetik a gyerekek hangját, arcfelismerést alkalmazhatnak, és más érzékeny adatokat is gyűjthetnek.

A hosszú távú hatások még ijesztőbbek lehetnek

A jelentés egyik társszerzője a Futurism cikkében nyilatkozva arról beszél, hogy új és alapvetően szabályozatlan technológiáról van szó, így a maga részéről ő sem adna hozzáférést a gyerekeinek sem az MI-chatbotokhoz, sem az MI-chatbotokkal működő plüssmackókhoz. A vizsgálatok részleteiért érdemes felkeresni a PIRG oldalát, de a lényeg nagyjából annyi, hogy a mesterséges intelligencia ezekben az esetekben sem viselkedik másképp, mint más felhasználásokban. A rövid interakciók során elég következetesen eltereli vagy lezárja az inadekvát beszélgetéseket, de a tíz percnél hosszabb ideig tartó csevegések során a védőkorlátok elkezdenek leépülni, legyen szó akár az OpenAI modelljéről, akár a nehezen azonosítható háttértechnológiákról.

Bár az MI-alapú chatbotok kiszámíthatatlansága nem nagy újdonság, mégis megdöbbentő, hogy milyen felelőtlenül küldik a piacra a rájuk épített játékokat. A Futurism riportja felidézi, hogy idén már a Barbie és Hot Wheels márkákat gondozó Mattel is bejelentette az OpenAI-val való együttműködését, miközben egyre gyakrabban olvasni az MI-pszichózisként hivatkozott jelenségről, téveszmékről vagy mániás epizódokról az MI-chatbotokkal folytatott hosszú beszélgetésekkel összefüggésben. A PIRG szerint a gyerekek esetében kevés lenne, ha egyszerűen csak javulgatna a technológia biztonsága, mert a fejlődésükre gyakorolt hosszú távú hatásairól semmit sem tudunk, és következményekkel talán csak akkor szembesülünk majd, amikor már túl késő lesz.