A jelenlegi, mesterséges intelligenciával működő chatbotok kézenfekvő módon veszélyes szociopatává alakulnak, ami valós kockázatokat jelenthet az emberi lényekre nézve is – olvasható a Princetoni Egyetem idegtudományi professzorának cikkében, melyet pénteken tettek közzé a The Wall Street Journal oldalán. Az emberi elme működését lenyűgözően imitáló, nagy teljesítményű rendszerek (például a ChatGPT) gyors fejlődésével és hozzáférhetővé válásával már kiderült, hogy azok bármiféle gátlás nélkül képesek akármit össze-vissza kamuzni, Michael Graziano viszont felveti, hogy ezt valamiféle tudatosság vagy öntudat nélkül lehetetlen lesz összhangba hozni a saját értékeinkkel.

A cikk szerint a tudatosság része annak az eszközkészletnek, amelyet az evolúció során az ember megszerzett a proszociális (önzetlen, együttműködő, empatikus) fajjá váláshoz. - írja Graziano. Enélkül szükségszerűen szociopaták lennénk, mert hiányoznának belőlünk a proszociális viselkedést meghatározó minták. Ahogy azt a kommentárok is szemléltetik, mindebből természetesen nem következik, hogy a ChatGPT lemászik a képernyőről, hogy bántson valakit. De ahogy egyre több és több feladatot bízunk a mesterséges intelligenciára, arra is érdemes lenne gondolni, hogy mindez milyen következményekkel járhat a nem is túlságosan távoli jövőben.

A "közösségi öntudat" lenne a biztosíték

A professzor úgy látja, hogy egy kezelhető MI-nek mindenképpen fel kell ismernie, hogy a világ saját magán kívül is tele van más elmékkel, amit másképpen öntudatnak is nevezhetünk. Annak megállapítására azonban nincsen hatékony módszerünk, hogy egy mesterséges intelligencia (vagy lényegében bárki és bármi) mennyire tudatos. Ha egy számítógép esetében ilyesmire lennénk kíváncsiak, akkor azt kellene vizsgálnunk, hogy a gép mennyire érti a tudatos elmék interakcióját. Más szóval, egy fordított Turing-tesztre lenne szükség: azt kell megnézni, hogy az MI el tudja-e dönteni, élő emberrel vagy egy másik számítógéppel beszélget éppen.

A professzor attól tart, hogy ha ezeket a bonyolult problémákat nem sikerül tisztáznunk, akkor súlyos következményekkel kell szembenéznünk, hiszen minden meghatározás alapján szociopata gépek hoznának az emberekre nézve is egyre súlyosabb hatásokkal járó döntéseket. Bár egyelőre a legfejlettebb chatbotokat is legfeljebb játékszereknek tartja, amelyeknek még korlátozottak a képességeik, a fejlődésük üteme miatt éppen ideje lenne ilyen szempontból is vizsgálni a gépi intelligenciát, ha nem akarunk öt, de akár egy éven belül válságba sodródni miattuk. Mivel a gépek előbb-utóbb "túlgondolkodnak" bennünket, szerinte az emberi értékekkel való összhang a "közösségi öntudat" megteremtésén múlna.