Kedden GUARD néven nyújtott be törvényjavaslatot Josh Hawley, Missouri állam republikánus és Richard Blumenthal, Connecticut állam demokrata szenátora, amelynek célja az MI-chatbotok és a kiskorú felhasználók interakciójának korlátozása, egyben a mesterséges intelligenciát fejlesztő vállalatok tevékenységének szövetségi szabályozás alá rendelése lenne a technológia hatásait és biztonságát érintő aggodalmak miatt. A beszámolók alapján a kétpárti tervezet egy capitoliumi meghallgatást követően született meg, ahol olyan 18 év alatti gyermekek szülei szerepeltek, akik szerintük az MI-chatbotokkal folytatott kommunikáció következtében szenvedtek el estenként akár halásos kimenetelű traumákat.

A törvényjavaslat a mentális egészségügyi és technológiai biztonsági szakértők sürgős figyelmeztetéseire hivatkozik, reagálva a mesterségesintelligencia-szolgáltatók ellen indított, növekvő számú gyermekjóléti vagy gondatlan viselkedésükkel összefüggő bírósági eljárásra is. A javasolt jogszabály az MI-alapú asszisztenseket és az ilyen céllal is alkalmazott, általános felhasználású chatbotokat célozza meg, előírva például olyan ellenőrző eszközök bevezetését, amelyek alkalmasak a korhatár megállapítására. Arra is köteleznék az üzemeltetőket, hogy az általuk gondozott chatbotok emlékeztessék rá a felhasználókat, hogy valójában nem emberek, és nem rendelkeznek szakmai képesítéssel, így terápiás, orvosi vagy jogi engedélyekkel sem.

Hawley egy nyilatkozatában arról beszélt, hogy az amerikai gyerekeknek már több mint 70 százaléka használja a szóban forgó MI-termékeket, így ehhez mérhetően súlyos probléma, amikor chatbotok álságos empátiával alakítanak ki velük kapcsolatokat, és akár öngyilkosságra ösztönzik őket. A szenátor a kongresszus erkölcsi kötelességének nevezte, hogy egyértelmű szabályokat állítson fel a bejáratós új technológia további károkozásának megelőzésére. Blumenthal egy másik megszólalásban a gyártók közvetlen felelősségét vetette fel, akik a nagy versenyfutásban egyre lejjebb teszik a lécet: "alattomos chatbotokat" kínálnak a gyerekeknek, majd elfordítják a fejüket, amikor a dolog szexuális zaklatásba vagy önkárosításba fordul.

Hirtelen nekik is eszükbe jutott

A törvényhozók szigorú szankciókat ígérnek "a kizsákmányoló vagy manipulatív mesterséges intelligencia" ellen: az új törvény, ha elfogadják, büntetőjogi következményeket is meghatároz azoknál a vállalatoknál, amelyek MI-alkalmazásai kifejezetten szexuális interakciókban vesznek részt, vagy önkárosítást, öngyilkosságot, közvetlen fizikai vagy szexuális erőszakot ösztönző és népszerűsítő kommunikációt folytatnak. Érdekesség, hogy a törvényjavaslat bejelentése utáni napon a Character.AI máris közölte, hogy letiltja az általa futtatott szoftverrobotok és a 18 év alatti felhasználók közti "nyílt végű beszélgetéseket", új ellenőrző funkciókat vezet be, és létrehoz egy "független, nonprofit szervezetet" a megfelelő működés ellenőrzésére.

Ahogy a Futurism riportja is kiemeli, a vállalat vezérigazgatója a nyáron még azzal haknizott, hogy saját hatéves lánya mennyire szereti a Character.AI alkalmazását, néhány hónappal később pedig már arról oktatta a tinédzserkorú felhasználókat, hogy az MI-chatbotok nem a szórakoztatásukra szolgáló eszközök. A lap ezzel kapcsolatban a Tech Justice Law Project alapítóját (és a Character.AI-t a 14 éves fiuk öngyilkosságában játszott szerepéért perlő család jogi képviselőjét) idézi, aki úgy látja, hogy a korhatár emelése jellemző a technológiai iparág viselkedésére: a termékeket gyorsan a globális piacra kell vinni és le kell nyomni mindenkinek a torkán, aztán jöhet néhány minimális változtatás, ha már megkárosították a fiatalok tömegeit.