Egy júniusban közzétett tanulmány szerint az MI-chatbotok gyakran mutatnak olyan "empátiás hézagokat", amely szoronást okozhatnak a fiatalabb felhasználóknak, vagy akár a sérülés veszélyének teheti ki őket. A Cambridge-i Egyetem akadémikusa, Dr. Nomisha Kurian a dokumentumban felveti a "gyerekbiztos mesterséges intelligencia" kialakításának szükségességét, arra ösztönözve a fejlesztők mellett a politikai döntéshozókat is, hogy legyenek tekintettel erre a megközeltésre az MI tervezése során.

Kurian kutatása azt igyekszik bizonyítékokkal alátámasztani, hogy a gyerekek különösen hajlamosak élethű, kvázi emberi bizalmasukként kezelni az MI-robotokat, ami félresikerült interakcióhoz vezethet, ha a technológia nem reagál egyedi szükségleteikre. Ahogy a Tech Xplore riportjából is kiderül, a tanulmány érzékletesen kapcsolja össze ezeket a hiányosságokat azokkal a közelmúltbeli esetekkel, amikor az MI-szolgáltatások tényleg veszélyes helyzetekbe vezették a fiatal felhasználókat.

Az érintett cégek, így az Amazon vagy a Snapchat, állítólag biztonsági intézkedéseket vezetett be az esetek nyomán, de a Kurian szerint hosszú távú, proaktív megközelítésre lenne szükség az eseti foltozgatással szemben – vagyis nem lenne szabad kizárólag arra hagyatkozni, hogy a gyerekek majd utólag beszámolnak nekünk a negatív tapasztalataikról. Ehhez ő is javasol egy 28 elemből álló keretrendszert, hangsúlyozva, hogy jelenleg kevés fejlesztő és vállalat rendelkezik ilyen irányelvekkel.

Mindig eljutunk valahogy az átláthatóságig

Még a felnőttek nagy része is hajlamos emlékekkel és érzésekkel rendelkező entitásként tekinteni az MI-chatbotokra, amelyek zéró megértési képességgel, statisztikai alapon utánozzák a nyelvi mintákat. Nem csoda, ha időnként teljesen rosszul kezelik a beszélgetések kiszámíthatatlan, absztrakt vagy érzelmi rétegeit, ami különösen igaz lehet a gyerekekkel folytatott interakciókra: utóbbiak nyelvhasználata még fejlődik, és sokszor alkalmaznak szokatlan beszédmintákat vagy kétértelmű kifejezéseket.

A robotok viselkedése ráadásul bizalmat ébreszt a gyerekekben, miközben az MI definíció szerint közömbös az érzéseikkel vagy szükségleteikkel kapcsolatban. A gyerekek chatbot-használata egyébként sokszor informális és rosszul ellenőrzött: a cikkben a Common Sense Media amerikai felmérését idézi, amelynek értelmében a 12-18 éves diákok fele használta már a Chat GPT-t, de a szülőknek csak negyed része van ezzel tisztában. Érdemes megjegyezni, hogy a tudós sem az MI-technológia tiltása, hanem annak biztonságosabbá tétele mellett érvel, ami szoros együttműködést feltételezne az oktatókkal, a gyerekvédelmi szakemberekkel és magukkal a fiatal felhasználókkal is a tervezési ciklus során.