A Watson és az AlphaGo mesterséges intelligenciája még meglehetősen szűk körű tudással bír, de előbb vagy utóbb képesek leszünk olyan gépeket készíteni, amelyek legalább annyira intelligensek, mint az emberek – mondta az amerikai számítógép-tudományi társaság, az ACM (Association for Computing Machinery) magazinjának adott interjújában Christof Koch.

A neves kutató a seattle-i Allen Intézet agykutató részlegének vezető tudósa, aki munkatársaival többek között az agyi neuronok szinaptikus kapcsolatainak térképét, az ún. konnektomját próbálja elkészíteni. A vállalkozás óriási. A legbonyolultabb konnektom eddig az, amit az intézetben az egér agyának egy pici, milliméternyi részletéről készítettek. Az emberi agyban viszont 80-100 milliárd neuron képez elképesztően bonyolult hálózatot. Csak az agykéregben a legélénkebb kommunikációt folytató mintegy 10 milliárd piramissejtnek kb. 10¹⁵ szinaptikus kapcsolata van.

A tudatos gép nem lehetetlen

Koch egyik kidolgozója volt az integrált információ elméletének, amely szerint minden olyan fizikai rendszert tudatosnak kell tekinteni, amit valamilyen belső, saját kauzális erő tart össze. Így adódnak át az idegsejtek között az elektromos impulzusok, de a számítógépes csipekben a tranzisztorok hálózata is erre emlékeztet, csak nagyon primitív szinten: egy tranzisztor pillanatnyi állapotát befolyásolja a közvetlen múltbeli állapota, és a pillanatnyi állapot pedig a jövőbelit. Minél jobban meghatározza a rendszer jelenlegi állapota a bemenetet, valamint annak hatását, a kimenetet, annál nagyobb a rendszerben lévő kauzális erő.

Ebből viszont a rendszerelmélet matematikája segítségével számszerűsíthető (kiszámítható) minden rendszer integráltinformáció-értéke. Onnantól pedig már az az egyszerű összefüggés lép életbe, hogy minél nagyobb egy rendszer integráltinformáció-értéke, annál tudatosabb.

Az elmélet alapján Kochék olyan – egyelőre csak kísérleti fázisban lévő – tudatosságmérőt építettek, ami segít annak eldöntésében, hogy a súlyosan agyi sérülést elszenvedő betegek tudatos lények-e még. (A vegetatív állapotban lévő betegek ötöde annak ellenére, hogy sokszor már a szemét sem tudja mozgatni, megőrizte öntudatát, és aktív agyi tevékenységet folytat.)

De Koch szerint az elmélete alapján újra kell gondolni a tudatról vallott felfogásunkat. Például hogy az nem csak emberre jellemző tulajdonság; minden olyan (akár mesterséges) rendszer, amelyben nem nulla az integráltinformáció-mérőszám, valaminek "érzi magát". Például a méh, aminek van egymillió idegsejtje, van öntudata. Nem abban az értelemben, hogy egy hang azt mondja a fejében, hogy ő méh; de érző lény, amely valami örömhöz hasonló állapotba kerül, ha pollennel tér vissza a kaptárba, és szomorú, ha meg nem talál pollent. Koch szerint a tudatosság-öntudat sokkal több mindent jellemez, mint amihez a fogalmat a nyugati kultúrában társítják.

De az öntudat nem egyenlő az intelligenciával, mondta, amikor arról kérdezték, hogy az IBM Watson vagy a DeepMind AlphaGo tudatos gépekké válhatnak-e. Szerinte mindkét mesterséges intelligencia korlátozott, bár előbb vagy utóbb lesznek olyan gépek, amelyek legalább annyira intelligensek, mint az ember. Az intelligencia és a tudatosság azonban fogalmi szempontból különböző dolgok, még ha a biológiai lényekben gyakran össze is kapcsolódnak. Az intelligencia a viselkedésről szól – például hogy mit csinálsz egy új környezetben a túlélésedhez –, az tudat ellenben a létezésről.

Új etikai problémákkal fogunk szembesülni

Ha tehát azt akarjuk eldönteni, hogy egy gépnek van-e öntudata vagy sem, akkor nem a gép viselkedését, hanem a kauzális erőt biztosító alapot, azaz a csipeket kell vizsgálni. A mai MI-rendszerek a Neumann-architektúrát használják, azaz egy tranzisztor átveszi néhány másikból azok kimenetét, majd saját kimenetét néhánynak továbbadja. Ezeknek a rendszereknek az integráltinformáció-értéke tart a nullához. A tudat nem a számításról szól; az egy olyan kauzális erő, ami a rendszer fizikájához kapcsolódik.

Koch azt azonban elképzelhetőnek tartja, hogy a neuromorf rendszerek vagy kvantum számítógépek már elérhetik azt az integráltinformáció-értéket, hogy már öntudatra ébredt gépek legyenek tekinthetők. Ezek a gépek azonban új etikai kérdéseket vetnek fel.

Ha van egy Tesla-autónk – hozta fel példaként a tudós – , bár intelligens gépnek tekintjük, szétverhetjük kalapáccsal, hiszen egy tárgy, ami a tulajdonunkban van. Ha egy kutyát megkínzunk, azért már bíróság elé állítanak bennünket, mert a kutya tudatos lény, szenved, és emiatt vannak is jogai. Ha tehát a gépek is elérnek egy öntudati szintre, akkor annak erkölcsi, jogi és politikai következményei is lesznek.