Bár egyik-másik gyártónál érezhető az igyekezet a fiatal felhasználók szükségleteinek kiszolgálására, folyamatos tájékoztatásra van szükség a generatív mesterséges intelligencia kockázatairól – derül ki a Commmon Sense Media kutatásából.

A Common Sense Media kedden közölt egy új elemzést a népszerű MI-chatbotok etikus használatával, átlátható működésével, biztonságávalt és potenciális kockázataival kapcsolatban. Ennek fő megállapítása, hogy egyes szolgáltatások jobban kezelik ugyan a káros sztereotípiákat és a nyilvánvaló félretájékoztatást, így is hamis biztonság- és hitelességérzetet keltehetnek, ami különösen veszélyes a fiatal és befolyásolható felhasználókra nézve.

A vonatkozó közleményben külön figyelmeztetnek az olyan MI-chatbotokra, amelyek valós idejű keresést használnak (Perplexity), vagy többszörös ellenőrzéssel (double-check) dolgoznak (Gemini). Ezek a technikák növelhetik az átláthatóságot, de a Common Sense eredményei szerint a kimeneteik így sem mindig pontosak: bár a generatív MI-eszközöket úgy reklámozzák, hogy időt takarítanak meg az embernek, valójában csak "átrendezik az időbeosztást".

A Common Sense mesterséges intelligenciával foglalkozó vezető tanácsadója szerint az általuk végzett, piacvezető technológiákra vonatkozó elemzés is világossá teszi, hogy a felhasználóknak – különösen a gyerekeknek és a tinédzsereknek – el kell sajátítaniuk a kritikus gondolkodást, és több időt kell tölteniük az MI kimeneteinek ellenőrzésével. Rájuk nézve ugyanis túlzott kockázatot jelent, ha rögtön tényként fogadják el már az első eredményeket.

Ameddig választhatunk, addig érdemes is választani

Az egyes termékek egyébként változatosan teljesítettek a tesztek során: az Anthropic Claude robotja és a Google Gemini rendre "minimális" és "alacsony" kockázati besorolást kapott, míg a Perplexity például "magas" kockázati szintet képvisel. Ahogy írják, jelenleg a Gemini az egyetlen olyan platform, amelyik dedikált felhasználói élményt próbál létrehozni a tizenéveseknek, és a gyermekvédelmi biztosítékok mellett segít nekik megérteni a generatív MI korlátait is.

Ez utóbbi a Common Sense vezérigazgatója szerint azért különösen érdekes, mert a chatbotok és az új MI-funkciók fejlesztése és bevezetése túl gyors a fogyasztók (különösen a gyerekek) képességeihez viszonyítva, hogy megértsék a működésüket – ezért is fontos a folyamatos tájékoztatás a legjobb gyakorlatokról és azokról az emberi jogokat vagy az adatvédelmet veszélyeztető megoldásokról, amelyek állandósíthatják a félretájékoztatást és az elfogultságot.

Hogy az ilyesmit ajánlatos lenne komolyan venni, azt a felhasználási statisztikák is alátámasztják: a nonprofit szervezet egy korábbi felméréséből kiderült például, hogy a 12-18 éves amerikai diákok fele használta már a Chat GPT-t, de szüleiknek csak negyed része volt egyáltalán tisztában a dologgal. A robotok viselkedése eközben bizalmat ébreszt a gyerekekben, miközben az MI definíció szerint közömbös az érzéseikkel vagy szükségleteikkel kapcsolatban.

Közösség & HR

30 millió dollárral fognak hozzá a milliárdosok kitakarításához a közösségi médiából

Technológiai vezetők mellett még egy korai Facebook-befektető is támogatja a Free Our Feeds kezdeményezést, ami a nyílt forráskódú AT-protokoll segítségével számolná fel a Musk- vagy Zuckerberg-szerű üzletemberek koncentrált ellenőrzését az online közösségi tér fölött.
 
Egy cég legacy rendszerei, fejlődési tervei mellett a belső kompetenciái és a beruházási készsége is befolyásolják, hogy milyen SD-WAN modellt érdemes választania.

a melléklet támogatója a Yettel

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.