Esetenként a mesterséges intelligencia fejlesztéséért felelős tudósok is olyan nyomorultul érzik magukat a lehetséges rossz forgatókönyvek miatt, mint a tágabb közönség, de aggodalmaik a valós kockázatok helyett inkább a sci-fi regények szintjén mozognak – derül ki a The Atlantic beszámolójából a NeurIPS-ről, az egyik legjelentősebb MI-konferenciáról, amit ebben az évben San Diegóban rendeztek meg. A szerző ugyanis azt tapasztalta, hogy sok szakember használ nagy szavakat, különösen a mesterséges általános intelligencia (AGI) egyelőre hipotetikus megalkotásával kapcsolatban, de figyelmen kívül hagyják a technológia már most is tapasztalható, és ilyen értelemeben hétköznapi hátrányait.

A nyilvános diskurzust ennek megfelelően "az elképzelt problémák uralják". A figyelmeztetések között gyakran szerepel például, hogy egy lehetséges disztópikus jövőben az MI megtévesztheti saját megalkotóit is, a technológiai előny pedig egyet jelent majd a politikai erőfölénnyel és a közvélemény sikeres befolyásolásával. Eközben azonban nem sok szó esik róla, hogy a publikus MI-szolgáltatásokkal generált videók már most is milyen hatással vannak a nyilvános diskurzusra, és a fejlesztők is öt vagy tíz év múlva esedékes katasztrófákról beszélnek, nem az MI-chatbotok által éppen most gerjesztett mentális egészségügyi válságról vagy a műalkotások és az online elérhető szellemi tulajdon lerablásáról.

A Futurism ezzel kapcsolatban Zeynep Tufekci techno-szociológus egyik előadását idézi, ami már a címében is azt a kérdést teszi fel, hogy vajon megfelelő rémálmaink vannak-e a mesterséges intelligenciáról. Ebben azt veti fel, hogy a kutatók mintha nem látnák a fától az erdőt, amikor egyfolytában az AGI feltételezett veszélyeire koncentrálnak, miközben annak a technológiának még a meghatározásában sem egyeztek meg, nem beszélve arról, hogy egyáltalán lehetséges-e belátható időn belül létrehozni valami hasonlót. Közben más jelenségek, mondjuk a chatbot-függőség már ismert dolgok, de a róluk szóló viták nem sok figyelmet kapnak a tömeges munkanélküliséghez vagy az emberiség kihalásához képest.

A látványos dolgoktól szeretünk rettegni

Ahogy korábban nálunk is többször felmerült, a mesterséges intelligenciáról szóló, apokaliptikus víziókat gyakran ugyanazok a milliárdos üzletemberek tartják napirenden, akik a technológiát építik. Az OpenAI vezérigazgatója, Sam Altman évek óta rendszeresen megosztja félelmeit a nyilvánossággal. A mesterséges intelligencia szerinte munkahelyek egész kategóriáit törli majd el, széles körű válságot okozhat a személyazonosságokkal való visszaélésekben, és még olyasmit is belengetett, hogy az MI esetleg bosszút állhat az emberiségen egy halálos vírus elterjesztésével – közben nála többet nem sokan tettek a fejlett MI felépítéséért és az emberek hétköznapi életébe való becsatornázásáért.

Van, aki tudatosságot lát amögött, hogy a mesterségesintelligencia-ipar nagyon látványos, de kevéssé valószínű katasztrófákkal riogat, amelyek elkerülését saját profizmusának tulajdonítja, ezzel pedig eltereli a figyelmet azokról a károkról, amelyeket valós időben okoz a társadalomnak. A The Atlantic cikke inkább azt emeli ki, hogy az MI-iparág kultúrájának központi jellemzője az a rögeszme, hogy a számítógépet egy elméhez hasonlítsa, és erre az álláspontra építse a jövőképét is. Ahogy a lap írja, már a NeurIPS (Neural Information Processing Systems) elnevezése is azt a korszakot idézi, amikor a tudósok alábecsülték és a gépi adatfeldolgozáshoz hasonlónak tartották az emberi agy összetett folyamatait.

A szerző kiemeli, hogy az OpenAI vagy az Anthropic jelentéseiben a chatbotokat is időnként hűtlennek vagy becstelennek nevezik, ami jól mutatja, hogy a mesterséges intelligenciáról szóló kommunikációt mennyire meghatározza a tudományos megközelítést felülíró fantasy-szemlélet. A jelenlegi nagy nyelvi modellek (LLM-ek) azonban nem érzékelnek vagy értenek semmit, ezért kimeneteikben sem tudnak ilyesmit átadni, és azok igazságtartalmát illetően is szükségszerűen közömbösek. Egyes szakemberek szerint már a kimeneti pontatlanságokat leíró "hallucináció" kifejezés is félrevezető, mert olyan képességeket tulajdonít a gépeknek, amivel nagyban torzítja a velük szemben támasztott elvárásokat.