A mesterséges intelligencia gyakorlati alkalmazásainak még nem sikerült megközelíteniük azokat az elképesztő várakozásokat a termelékenység növelésével kapcsolatban, amelyeket az emberi feladatok támogatásán vagy akár átvételén keresztül várnak el tőle, de a technológia kockázatait illető figyelmeztetések így is egyre szaporodnak. A Nature oldalán nemrégiben közölt tanulmány éppen annak a veszélyeit tárgyalja, hogy az említett feladatok gépekhez való delegálása milyen módon erősítheti az etikátlan viselkedést, amit a cikkben különösen időszerű problémának neveznek az MI-ügynökök (agentic AI) gyors térnyerésével.

Ezektől az önállóan működő mesterségesintelligencia-alkalmazásoktól látványos előrelépést várnak az MI- technológiák széles körű bevezetésében, de biztonságos működésüket egyelőre nem sok minden garantálja, sőt egyes szakemberek szerint az eszetlen fejlesztési verseny katasztrofális forgatókönyvek megvalósulásához vezethet. A fenti tanulmány ennek egyik vetületével foglalkozik, amikor azt állítja, hogy az MI használata használata "kényelmes erkölcsi távolságot teremt" a felhasználók és saját cselekedeteik között, akik így hajlamossá válnak olyasmire utasítani a gépeket, amit maguk nem feltétlenül tennének meg, és amire másokat sem valószínű, hogy megkérnének.

Miért éppen ebben gondolkodnánk előre

Az ilyesmire már eddig is akadtak példák a házi feladatokkal és vizsgákkal való trükközésen vagy a bírósági eljárásokban felbukkanó, MI-vel generált hülyeségeken keresztül. A Max Planck Institute for Human Development munkatársai azonban 8 ezer résztvevő bevonásával végzett el összesen 13 tesztet, hogy pontosabb képet alkosson a jelenségről, és a kísérletek során egyértelművé vált, hogy az emberek sokkal fogékonyabbak a csalásra, ha a mesterséges intelligenciát is bevonhatják a dologba. Ez igaz volt például a kockadobások eredményének bejelentésére (illetve az azzal összefüggő kifizetésekre), de megmutatkozott akkor is, amikor egy szimuláció során az adóköteles jövedelmüket kellett bejelenteniük.

A kutatók megállapították, hogy a felhasználók nagyobb valószínűséggel kérnek etikátlan viselkedést a gépektől, mint amilyen szívesen maguk vennének részt ilyesmiben. Ez pedig elég erős figyelmeztetés az iskolákban, munkahelyeken és más területeken is egyre terjedő MI-alkalmazásokkal kapcsolatban, hiszen az erre vonatkozó technikai biztosítékok és szabályozási keretek érdemben nem léteznek. Ahogy a szerzők írják, mindezen túl a társadalomnak is szembe kellene néznie azzal, hogy mit jelent az erkölcsi felelősség megosztása a gépekkel, de már ez a megállapítás is magában hordozza, hogy mennyire reménytelen feladatról lehet szó.

Részletek és javasolt stratégiák a Nature oldalán »