Az egyre kockázatosabb felhasználások elkerülésére valamilyen fordított Turing-tesztre lenne szükség, amin a ChatGPT és az összes többi rendszer is egész biztosan elhasalna.

A jelenlegi, mesterséges intelligenciával működő chatbotok kézenfekvő módon veszélyes szociopatává alakulnak, ami valós kockázatokat jelenthet az emberi lényekre nézve is – olvasható a Princetoni Egyetem idegtudományi professzorának cikkében, melyet pénteken tettek közzé a The Wall Street Journal oldalán. Az emberi elme működését lenyűgözően imitáló, nagy teljesítményű rendszerek (például a ChatGPT) gyors fejlődésével és hozzáférhetővé válásával már kiderült, hogy azok bármiféle gátlás nélkül képesek akármit össze-vissza kamuzni, Michael Graziano viszont felveti, hogy ezt valamiféle tudatosság vagy öntudat nélkül lehetetlen lesz összhangba hozni a saját értékeinkkel.

A cikk szerint a tudatosság része annak az eszközkészletnek, amelyet az evolúció során az ember megszerzett a proszociális (önzetlen, együttműködő, empatikus) fajjá váláshoz. - írja Graziano. Enélkül szükségszerűen szociopaták lennénk, mert hiányoznának belőlünk a proszociális viselkedést meghatározó minták. Ahogy azt a kommentárok is szemléltetik, mindebből természetesen nem következik, hogy a ChatGPT lemászik a képernyőről, hogy bántson valakit. De ahogy egyre több és több feladatot bízunk a mesterséges intelligenciára, arra is érdemes lenne gondolni, hogy mindez milyen következményekkel járhat a nem is túlságosan távoli jövőben.

A "közösségi öntudat" lenne a biztosíték

A professzor úgy látja, hogy egy kezelhető MI-nek mindenképpen fel kell ismernie, hogy a világ saját magán kívül is tele van más elmékkel, amit másképpen öntudatnak is nevezhetünk. Annak megállapítására azonban nincsen hatékony módszerünk, hogy egy mesterséges intelligencia (vagy lényegében bárki és bármi) mennyire tudatos. Ha egy számítógép esetében ilyesmire lennénk kíváncsiak, akkor azt kellene vizsgálnunk, hogy a gép mennyire érti a tudatos elmék interakcióját. Más szóval, egy fordított Turing-tesztre lenne szükség: azt kell megnézni, hogy az MI el tudja-e dönteni, élő emberrel vagy egy másik számítógéppel beszélget éppen.

A professzor attól tart, hogy ha ezeket a bonyolult problémákat nem sikerül tisztáznunk, akkor súlyos következményekkel kell szembenéznünk, hiszen minden meghatározás alapján szociopata gépek hoznának az emberekre nézve is egyre súlyosabb hatásokkal járó döntéseket. Bár egyelőre a legfejlettebb chatbotokat is legfeljebb játékszereknek tartja, amelyeknek még korlátozottak a képességeik, a fejlődésük üteme miatt éppen ideje lenne ilyen szempontból is vizsgálni a gépi intelligenciát, ha nem akarunk öt, de akár egy éven belül válságba sodródni miattuk. Mivel a gépek előbb-utóbb "túlgondolkodnak" bennünket, szerinte az emberi értékekkel való összhang a "közösségi öntudat" megteremtésén múlna.

Közösség & HR

Arcvonásaik alapján szúrja ki az ittas vezetőket a mesterséges intelligencia

Az ausztrál tudósok által alkotott technológia ránézésre is elég pontosan megmondja, ha valaki túl részeg ahhoz, hogy járművet vezessen.
 
Nincs automatikus és egyszerű út a felhőnirvánába, pedig a buktatók többségét viszonylag egyszerűen el lehetne kerülni.

a melléklet támogatója a 4iG Nyrt.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.