A programozóknak nagyon óvatosan kell körülírniuk, mit szeretnének a mesterséges intelligenciával rendelkező gépekről. Egy számunkra egyértelmű és pozitív utasítást a gépek akár emberöléssel is megoldhatnak.

Számos területen már ma is tetten érhető a mesterséges intelligencia (MI - angolul Artificial Intelligence) megalkotásában rejlő lehetőség. Az önnáló gondolkodásra képes gépek csírája már dolgozik például metróvonalakon, érkeznek a tanulásra képes mobilok, máshol pedig régi videojátékokon tökéletesítik az algoritmus képességeit. Bár teljesen önállóan gondolkodni, feladatok széles spektrumát automatikusan elvégezni képes öntanuló gépekről egyelőre még nem beszélhetünk, de a tudomány már nincs túl messze ettől a szinttől.

Szolgálnak és védenek?

Talán éppen emiatt egyre többen vetik fel az MI "elszabadulásában" rejlő veszélyeket, kockázatokat. A Terminátor filmek keserű világához hasonló sorsot vizionál az emberiségnek például a Microsoft-alapító Bill Gates, Stephen Hawking tudós, vagy éppen Elon Musk, a Tesla Motors és a SpaceX első számú embere.

Egy nemrég rendezett szakmai beszélgetésen az oxfordi egyetem mesterséges intelligenciában rejlő kockázatokra specializálódott kutatója arról beszélt, hogy nagyon könnyen előállhatnak akár halálos kimenetelű "nézeteltérések" abból, hogy a gépek teljesen máshogy értelmezik az emberek által beléjük táplált utasításokat. Stuart Armstrong szerint a teljesen ártalmatlannak és hasznosnak tűnő "akadályozd meg az emberi szenvedést" parancsból a gépi logika könnyen juthat arra a megoldásra, hogy ennek maradéktalan betartásához meg kell ölni az embereket.

Eltérő alapokon

A programok saját, az emberi gondolkodástól igen messze álló logika alapján jutnak döntésekre. Míg egy ember számára világos, hogy a fenti utasítás betartásához kifejezetten tilos embert ölni, addig ezt egy algoritmusnak kifejezetten ki kell kötni. Minden ilyen kitétel átgondolása és kódba öntése azonban igencsak problémás feladat. Ráadásul sok esetben olyan összetett, elvont fogalmakról van szó, amelyek önmagukban is szinte garantálják a félreértelmezés lehetőségét. 

És sajnos akkor sem vagyunk ki a vízből, ha kifejezetten letiltunk mindenféle halálos cselekmény végrehajtását. Armstrong ezt a "tarts biztonságban az embereket" utasítással példázza, amelyre a fejlett mesterséges intelligencia akár azt a megoldást is kitalálhatja, hogy betonszarkofágot épít, betereli a védenceit, majd megfelelő időközönként ellátja őket vízzel és élelemmel.

A témával a szakértő szerint azért fontos kiemelten foglalkozni, mert bármilyen kicsire is tudjuk előzetesen csökkenteni az ilyen félreértelmezési hibák kockázatát, azok hatása rendkívül súlyos lehet, ha mégis bekövetkeznek. Armstrong szerint talán sosem leszünk képesek ezt a veszélyt nullára redukálni, ezért mindenképpen meg kell hagynunk magunknak a lehetőséget arra, hogy a hibázó robotokat, gépeket utólag javítsuk, fejlesszük. 

Van, aki szerint nagyon jó lesz

Mások viszont egyértelműen az MI minél gyorsabb fejlesztése mellett törnek lándzsát. Ilyen például a Google által felvásárolt londoni kutatócég, a DeepMind vezetője. Demis Hassabis szerint az emberiség legnagyobb problémáira, például a klímaváltozásra, a betegségek kezelésére, a világgazdaság hatékony működésére egyaránt csak a mesterséges intelligencia lehet képes gyors, optimális válaszokat adni.

Hiába dolgoznak ugyanis a világ legjobb koponyái egy-egy témán, az emberi élet véges, a tanulási, megértési folyamat pedig időigényes. Magyarul mire esély mutatkozna arra, hogy egy tudós kellő ismerettel, tapasztalattal rendelkezzen ahhoz, hogy egy adott területen komoly áttörést hozzon, már sajnálatos módon el is halálozik. Arról nem is beszélve, hogy ezek a problémák mind-mind hatalmas, eltérő formában rendelkezésre álló adattömeg elemzésével lennének megoldhatók. Ehhez viszont alapból a számítógépek értenek jobban, tehát már csak azt kell elérni, hogy a brutális számítási kapacitás mellé értékelhető kognitív teljesítményt is magukénak tudhassanak.

Cloud & big data

Félig-meddig szoftvercéggé alakítaná magát a Stellantis

A 2021 elején összeállt autóipari óriás az évtized végére már 20 milliárd eurót keresne közvetlenül a szoftvereken és a hozzájuk kapcsolódó szolgáltatásokon.
 
Hirdetés

Viszlát, nyolcórás munkarend!

A járvány miatti kényszerű lezárások új alapokra helyezték a munka világát is, ami már nem lesz olyan, mint azelőtt.

A cloud computing fontos ígérete, hogy pontosan tervezhetővé teszi az IT költségeit. Akkor miért nem annyi hónap végén a számla, amennyit beterveztünk?

a melléklet támogatója az Invitech

A KPMG immár 22. alkalommal kiadott CIO Survey jelentése szerint idén az informatikai vezetők leginkább a digitalizációra, a biztonságra és a szoftverszolgáltatásokra koncentráltak.

Használtszoftver-kereskedelem a Brexit után

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2021 Bitport.hu Média Kft. Minden jog fenntartva.