Egy júniusban közzétett tanulmány szerint az MI-chatbotok gyakran mutatnak olyan "empátiás hézagokat", amely szoronást okozhatnak a fiatalabb felhasználóknak, vagy akár a sérülés veszélyének teheti ki őket. A Cambridge-i Egyetem akadémikusa, Dr. Nomisha Kurian a dokumentumban felveti a "gyerekbiztos mesterséges intelligencia" kialakításának szükségességét, arra ösztönözve a fejlesztők mellett a politikai döntéshozókat is, hogy legyenek tekintettel erre a megközeltésre az MI tervezése során.
Kurian kutatása azt igyekszik bizonyítékokkal alátámasztani, hogy a gyerekek különösen hajlamosak élethű, kvázi emberi bizalmasukként kezelni az MI-robotokat, ami félresikerült interakcióhoz vezethet, ha a technológia nem reagál egyedi szükségleteikre. Ahogy a Tech Xplore riportjából is kiderül, a tanulmány érzékletesen kapcsolja össze ezeket a hiányosságokat azokkal a közelmúltbeli esetekkel, amikor az MI-szolgáltatások tényleg veszélyes helyzetekbe vezették a fiatal felhasználókat.
Az érintett cégek, így az Amazon vagy a Snapchat, állítólag biztonsági intézkedéseket vezetett be az esetek nyomán, de a Kurian szerint hosszú távú, proaktív megközelítésre lenne szükség az eseti foltozgatással szemben – vagyis nem lenne szabad kizárólag arra hagyatkozni, hogy a gyerekek majd utólag beszámolnak nekünk a negatív tapasztalataikról. Ehhez ő is javasol egy 28 elemből álló keretrendszert, hangsúlyozva, hogy jelenleg kevés fejlesztő és vállalat rendelkezik ilyen irányelvekkel.
Mindig eljutunk valahogy az átláthatóságig
Még a felnőttek nagy része is hajlamos emlékekkel és érzésekkel rendelkező entitásként tekinteni az MI-chatbotokra, amelyek zéró megértési képességgel, statisztikai alapon utánozzák a nyelvi mintákat. Nem csoda, ha időnként teljesen rosszul kezelik a beszélgetések kiszámíthatatlan, absztrakt vagy érzelmi rétegeit, ami különösen igaz lehet a gyerekekkel folytatott interakciókra: utóbbiak nyelvhasználata még fejlődik, és sokszor alkalmaznak szokatlan beszédmintákat vagy kétértelmű kifejezéseket.
A robotok viselkedése ráadásul bizalmat ébreszt a gyerekekben, miközben az MI definíció szerint közömbös az érzéseikkel vagy szükségleteikkel kapcsolatban. A gyerekek chatbot-használata egyébként sokszor informális és rosszul ellenőrzött: a cikkben a Common Sense Media amerikai felmérését idézi, amelynek értelmében a 12-18 éves diákok fele használta már a Chat GPT-t, de a szülőknek csak negyed része van ezzel tisztában. Érdemes megjegyezni, hogy a tudós sem az MI-technológia tiltása, hanem annak biztonságosabbá tétele mellett érvel, ami szoros együttműködést feltételezne az oktatókkal, a gyerekvédelmi szakemberekkel és magukkal a fiatal felhasználókkal is a tervezési ciklus során.
Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében
"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.
Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni
A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak