A mesterséges intelligencia kapcsán a szigorúbb szabályozást és a munkahelyek védelmét sürgeti a frissen kiadott pápai tanítás, amelyben XIV. Leó pápa kitér arra is, milyen súlyos problémákkal járhat a világra nézve, ha a technológiát fejlesztő és birtokló nagyvállalatok vezetői a mostaninál is nagyobb befolyást szereznek.

Az üzleti gondolkodás és a túlhatalom veszélyes elegye

A Magnifica Humanitas (Csodálatos emberiség) címmel publikált enciklika élesen bírálja a profitorientált gazdasági mechanizmusokat, és azok társadalomra gyakorolt (negatív) hatásaira hívja fel a figyelmet. "A digitális világban a platformok, az infrastruktúra, az adatok és a számítási kapacitás feletti ellenőrzés sok esetben nem az államok kezében van, hanem a nagy gazdasági és technológiai szereplőké" – olvasható a tanításban. "Ezek a szervezetek gyakorlatilag meghatározzák a hozzáférés feltételeit, a láthatóság szabályait, és alakítják a részvétel lehetőségeit. Amikor ez a hatalom kevesek kezében összpontosul, hajlamos átláthatatlanná válni és elkerülni a nyilvános ellenőrzést, növelve ezzel a torz fejlődési formák kockázatát, amelyek új függőségeket, kirekesztéseket, manipulációkat és egyenlőtlenségeket eredményeznek."

Mindezzel a pápa kimondatlanul is olyan techmogulok ellen szólal fel, mint amilyen a SpaceX-et éppen tőzsdére vivő Elon Musk, vagy a ChatGPT fejlesztőjeként elhíresült OpenAI vezetője, Sam Altman. Ennek fényében különösen érdekes, hogy az enciklika hétfői vatikáni bemutatóján a világ egyik vezető MI-fejlesztő cége, az Anthropic társalapítója is részt vett. Chris Olah meghívott előadóként arról beszélt, hogy a vallási vezetők, a kormányok és a civil társadalom általi külső ellenőrzés elengedhetetlen, a mesterséges intelligencia által hozott döntéseket pedig "nem szabad az iparágban dolgozókra bízni".

A katolikus egyház feje az MI elterjedése miatt munkaerőpiaci katasztrófától tart, és arra hívja fel a figyelmet, hogy a pusztán a költségcsökkentést célzó automatizáció súlyos társadalmi válsághoz, a szegénység és az egyenlőtlenségek elmélyüléséhez vezet. A pápa rögzíti: a nagyobb profit hajszolása nem igazolhatja munkahelyek rendszerszintű megszüntetését.

Hasznos eszköz és nem helyettesítő

A Vatikán ettől függetlenül elismeri az MI-ben rejlő potenciált (például az egészségügyben vagy a veszélyes ésvagy monoton feladatok kiváltásában), de figyelmeztet, hogy a modern vállalati rendszerek hajlamosak az embereket puszta "produktivitási egységekké" lefokozni, míg a technológiát folyamatos megfigyelésre és teljesítmény-maximalizálásra használják.

A pápai szöveg az etika nélküli, kizárólag adatokra, teljesítményre és kontrollra épülő technológiai gőgöt a bibliai Bábel tornyához hasonlítja. Az enciklika szerint további probléma, hogy az algoritmikus döntéshozatal nem tekinthető morálisan semlegesnek, mivel magában hordozhatja a fejlesztők részrehajlását (bias).

Mindezek fényében XIV. Leó állami és nemzetközi szintű szabályozást sürget. A Vatikán szerint az MI és a mögötte álló óriási adathalmazok irányítása nem maradhat egy maroknyi nagyvállalat kezében. A pápa proaktív, akár a folyamatok lassítására képes politikai beavatkozást, az algoritmusok átláthatóságát, valamint etikai fékek bevezetését szorgalmazza első pápai tanításában.

Modern dolgok

A katolikus egyház kapcsán gyakran felmerül, hogy túlságosan rigid és nem tud időben reagálni a világban zajló változásokra, ám a mesterséges intelligencia kapcsán ez semmiképpen sem állja meg a helyét. A Vatikán az elsők között igyekezett felhívni a figyelmet a terület szabályozásának a fontosságára.

Ferenc pápa már 2020-ban, azaz jóval a ChatGPT berobbanása előtt egyeztetést kezdeményezett a Microsoft és az IBM képviselőivel, amelynek eredményeképpen egy közös nyilatkozatban fektették le az MI fejlesztésének és alkalmazásának erkölcsi alapelveit.

A téma azóta folyamatosan napirendben maradt a Vatikánban, aminek egyik látható mérföldköve lett az a 2023-ban kiadott kézikönyv, amely praktikusan MI-fejlesztőknek szóló etikai kódexként funkcionál. Tavaly ősszel pedig egy olyan szemináriumot tartottak, ahol már előkerült a globális szabályozási keretrendszer felállításának szükségessége, illetve az is, hogy az MI generálta előnyöket minél szélesebb kör számára kell(ene) biztosítani.