Bár egyik-másik gyártónál érezhető az igyekezet a fiatal felhasználók szükségleteinek kiszolgálására, folyamatos tájékoztatásra van szükség a generatív mesterséges intelligencia kockázatairól – derül ki a Commmon Sense Media kutatásából.
Hirdetés
 

A Common Sense Media kedden közölt egy új elemzést a népszerű MI-chatbotok etikus használatával, átlátható működésével, biztonságávalt és potenciális kockázataival kapcsolatban. Ennek fő megállapítása, hogy egyes szolgáltatások jobban kezelik ugyan a káros sztereotípiákat és a nyilvánvaló félretájékoztatást, így is hamis biztonság- és hitelességérzetet keltehetnek, ami különösen veszélyes a fiatal és befolyásolható felhasználókra nézve.

A vonatkozó közleményben külön figyelmeztetnek az olyan MI-chatbotokra, amelyek valós idejű keresést használnak (Perplexity), vagy többszörös ellenőrzéssel (double-check) dolgoznak (Gemini). Ezek a technikák növelhetik az átláthatóságot, de a Common Sense eredményei szerint a kimeneteik így sem mindig pontosak: bár a generatív MI-eszközöket úgy reklámozzák, hogy időt takarítanak meg az embernek, valójában csak "átrendezik az időbeosztást".

A Common Sense mesterséges intelligenciával foglalkozó vezető tanácsadója szerint az általuk végzett, piacvezető technológiákra vonatkozó elemzés is világossá teszi, hogy a felhasználóknak – különösen a gyerekeknek és a tinédzsereknek – el kell sajátítaniuk a kritikus gondolkodást, és több időt kell tölteniük az MI kimeneteinek ellenőrzésével. Rájuk nézve ugyanis túlzott kockázatot jelent, ha rögtön tényként fogadják el már az első eredményeket.

Ameddig választhatunk, addig érdemes is választani

Az egyes termékek egyébként változatosan teljesítettek a tesztek során: az Anthropic Claude robotja és a Google Gemini rendre "minimális" és "alacsony" kockázati besorolást kapott, míg a Perplexity például "magas" kockázati szintet képvisel. Ahogy írják, jelenleg a Gemini az egyetlen olyan platform, amelyik dedikált felhasználói élményt próbál létrehozni a tizenéveseknek, és a gyermekvédelmi biztosítékok mellett segít nekik megérteni a generatív MI korlátait is.

Ez utóbbi a Common Sense vezérigazgatója szerint azért különösen érdekes, mert a chatbotok és az új MI-funkciók fejlesztése és bevezetése túl gyors a fogyasztók (különösen a gyerekek) képességeihez viszonyítva, hogy megértsék a működésüket – ezért is fontos a folyamatos tájékoztatás a legjobb gyakorlatokról és azokról az emberi jogokat vagy az adatvédelmet veszélyeztető megoldásokról, amelyek állandósíthatják a félretájékoztatást és az elfogultságot.

Hogy az ilyesmit ajánlatos lenne komolyan venni, azt a felhasználási statisztikák is alátámasztják: a nonprofit szervezet egy korábbi felméréséből kiderült például, hogy a 12-18 éves amerikai diákok fele használta már a Chat GPT-t, de szüleiknek csak negyed része volt egyáltalán tisztában a dologgal. A robotok viselkedése eközben bizalmat ébreszt a gyerekekben, miközben az MI definíció szerint közömbös az érzéseikkel vagy szükségleteikkel kapcsolatban.

Közösség & HR

Gyökeresen átalakultak a magyarok internetezési szokásai az elmúlt évtizedben

Az NMHH az elmúlt tíz év felméréseit elemezve rajzolta fel az elmúlt évtized legfontosabb tendenciáit a hazai digitális térben.
 

EGY NAPBA SŰRÍTÜNK MINDENT, AMIT A PROJEKTMENEDZSMENTRŐL TUDNI KELL!

Ütős esettanulmányok AI-ról, agilitásról, hibrid működésről, elosztott csapatokról, kulturális gapek kezeléséről. Exkluzív információk képzésekről, munkaerőpiacról, kereseti és karrierlehetőségekről.

2025.03.18. Symbol Budapest

RÉSZLETEK »

Nem csak technológiai, hanem kulturális változást is jelent az átállás – többek között erre is tekintettel kell lenni az obszervabilitás széleskörű alkalmazása során.

a melléklet támogatója a Dynatrace

Hirdetés

Szakmai nap a jövőálló digitális infrastruktúra jegyében

A digitális infrastruktúra új kihívásai - legyen szó MI megoldásokról, szigorodó fenntarthatósági követelményekről, vagy az reziliens és szünetmentes működésről - szinte minden nagyobb szervezet életében meghatározó szerepet játszanak. Egy szakmai rendezvénysorozat segítségével közelebb kerülhetünk a megoldásokhoz és segítséget kaphatunk az új technológiák sikeres implementálásához.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.