Számos területen már ma is tetten érhető a mesterséges intelligencia (MI - angolul Artificial Intelligence) megalkotásában rejlő lehetőség. Az önnáló gondolkodásra képes gépek csírája már dolgozik például metróvonalakon, érkeznek a tanulásra képes mobilok, máshol pedig régi videojátékokon tökéletesítik az algoritmus képességeit. Bár teljesen önállóan gondolkodni, feladatok széles spektrumát automatikusan elvégezni képes öntanuló gépekről egyelőre még nem beszélhetünk, de a tudomány már nincs túl messze ettől a szinttől.

Szolgálnak és védenek?

Talán éppen emiatt egyre többen vetik fel az MI "elszabadulásában" rejlő veszélyeket, kockázatokat. A Terminátor filmek keserű világához hasonló sorsot vizionál az emberiségnek például a Microsoft-alapító Bill Gates, Stephen Hawking tudós, vagy éppen Elon Musk, a Tesla Motors és a SpaceX első számú embere.

Egy nemrég rendezett szakmai beszélgetésen az oxfordi egyetem mesterséges intelligenciában rejlő kockázatokra specializálódott kutatója arról beszélt, hogy nagyon könnyen előállhatnak akár halálos kimenetelű "nézeteltérések" abból, hogy a gépek teljesen máshogy értelmezik az emberek által beléjük táplált utasításokat. Stuart Armstrong szerint a teljesen ártalmatlannak és hasznosnak tűnő "akadályozd meg az emberi szenvedést" parancsból a gépi logika könnyen juthat arra a megoldásra, hogy ennek maradéktalan betartásához meg kell ölni az embereket.

Eltérő alapokon

A programok saját, az emberi gondolkodástól igen messze álló logika alapján jutnak döntésekre. Míg egy ember számára világos, hogy a fenti utasítás betartásához kifejezetten tilos embert ölni, addig ezt egy algoritmusnak kifejezetten ki kell kötni. Minden ilyen kitétel átgondolása és kódba öntése azonban igencsak problémás feladat. Ráadásul sok esetben olyan összetett, elvont fogalmakról van szó, amelyek önmagukban is szinte garantálják a félreértelmezés lehetőségét. 

És sajnos akkor sem vagyunk ki a vízből, ha kifejezetten letiltunk mindenféle halálos cselekmény végrehajtását. Armstrong ezt a "tarts biztonságban az embereket" utasítással példázza, amelyre a fejlett mesterséges intelligencia akár azt a megoldást is kitalálhatja, hogy betonszarkofágot épít, betereli a védenceit, majd megfelelő időközönként ellátja őket vízzel és élelemmel.

A témával a szakértő szerint azért fontos kiemelten foglalkozni, mert bármilyen kicsire is tudjuk előzetesen csökkenteni az ilyen félreértelmezési hibák kockázatát, azok hatása rendkívül súlyos lehet, ha mégis bekövetkeznek. Armstrong szerint talán sosem leszünk képesek ezt a veszélyt nullára redukálni, ezért mindenképpen meg kell hagynunk magunknak a lehetőséget arra, hogy a hibázó robotokat, gépeket utólag javítsuk, fejlesszük. 

Van, aki szerint nagyon jó lesz

Mások viszont egyértelműen az MI minél gyorsabb fejlesztése mellett törnek lándzsát. Ilyen például a Google által felvásárolt londoni kutatócég, a DeepMind vezetője. Demis Hassabis szerint az emberiség legnagyobb problémáira, például a klímaváltozásra, a betegségek kezelésére, a világgazdaság hatékony működésére egyaránt csak a mesterséges intelligencia lehet képes gyors, optimális válaszokat adni.

Hiába dolgoznak ugyanis a világ legjobb koponyái egy-egy témán, az emberi élet véges, a tanulási, megértési folyamat pedig időigényes. Magyarul mire esély mutatkozna arra, hogy egy tudós kellő ismerettel, tapasztalattal rendelkezzen ahhoz, hogy egy adott területen komoly áttörést hozzon, már sajnálatos módon el is halálozik. Arról nem is beszélve, hogy ezek a problémák mind-mind hatalmas, eltérő formában rendelkezésre álló adattömeg elemzésével lennének megoldhatók. Ehhez viszont alapból a számítógépek értenek jobban, tehát már csak azt kell elérni, hogy a brutális számítási kapacitás mellé értékelhető kognitív teljesítményt is magukénak tudhassanak.