Az általános mesterséges intelligencia (artificial general intelligence, AGI) fejlesztése elméletileg a gépi tanulás csúcsa, mivel olyan kvalitásokkal ruházná fel a gépeket, amelyek révén az emberhez hasonló autonómiára és feladatmegoldó képességekre tehetnek szert. Ez egyes értelmezések szerint már megfeleltethető lenne az érző lényekben megnyilvánuló öntudatnak is, így mindenki lelkesen tárgyalja az utópisztikus vagy disztópikus jövőképeket, a fantáziát pedig még tovább táplálják az irodalmi vagy filmes alkotások. Egy valódi AGI létrehozásának lehetősége azonban még az MI-kutatásban résztvevő szakembereket is megosztja.

A Venture Beat oldalán a Fortanix adatbiztonsági szolgáltató alelnöke foglalta össze annak a legutóbbi ügynek a tanulságait, amely szerint a Google kényszerszabadságra küldte egyik tudósát, aki arról próbálta meggyőzni a főnökeit, hogy az általuk fejlesztett LaMDA csetbot érző lénnyé vált. A dolog világszerte a címlapokra került, ami jelzi az emberi viselkedést imitáló gépek iránti érdeklődést és várakozásokat, a csetbotok fejlesztésének és működésének jobb megértése azonban ebben az esetben is segíthet tisztázni a különbséget a mesterséges válaszok és egy állítólagos lélekkel rendelkező gép között.

A cikkben természetesen szó esik a közismert Turing-tesztről, amelynek lényege, hogy a megfelelő körülmények között egy valódi ember és egy gép is megpróbál meggyőzni egy kérdezőt, hogy igazi, gondolkodó emberrel beszélget, és ha utóbbi egy bizonyos idő eltelével sem tudja egyértelműen megállapítani, hogy ki kicsoda, akkor az MI sikeresen szerepelt. Bár a Turing-teszt több szempontból sem alkalmas az intelligencia tényleges azonosítására, az tulajdonképpen a másik oldalon dől el, hogy egy gépet tényleg értelmes, gondolkodó lénynek tarthat valaki, vagy csak az összetett imitáció eredményének tudja be a reakcióit.

Ideje lenne egy kicsit észnél lenni

Ma már klasszikusnak számít a Microsoft Tay csetbotjának esete, amelynek kimeneti eredményeivel elvileg egy 19 éves lányt kellett volna idéznie, de a Twitter-felhasználók visszacsatolásaiból tanulva órákon belül Hitler-szimpatizáns nőgyűlölő lett belőle. A csetbotok a természetes nyelvi feldolgozás (natural language processing, NLP) alkalmazására jelentenek példát a gépi tanulás egyik formájában, jól-rosszul elemezve és értelmezve a beszélgetések emberi tényezőit, az észlelt szavak kombinációi alapján állítva össze a megfelelőnek ítélt válaszokat. A csetbot így emberekkel folytatott beszélgetésekben és valódi emberek utánzásában annyira lesz sikeres, amennyire hatékonyak a betanítás során használt adatok és a beszélgetések során alkalmazott megerősítő tanulás.

A cikk szerint a Google címlapsztorija a magyarázhatóság szükségességét emeli ki a mesterséges intelligencia alkalmazásában. A neurális hálózatok olyan tanulási funkciókkal is rendelkezhetnek, amelyek lehetővé teszik a kezdeti céljaikon túlmutató feladatokhoz való alkalmazkodást is, amelyekhez a hálózatot fejlesztették, ugyanakkor azok az okok gyakran homályosak és megfoghatatlanok, amelyek miatt az adott kimenetet adják az adott bemenetre. A torzulások már a betanításra használt adatok mennyiségében és minőségében is ott vannak, a "feketedoboz-problémának" nevezett jelenség pedig azt eredményezi, hogy sem a fejlesztő, sem a felhasználó nem képes pontosan megokolni az MI viselkedését.

A LaMDA és a Tay esete nagyon hasonló, amennyiben még egy szakértő felhasználó is elbizonytalanodhat benne, hogy a gép miért pont úgy reagál valamire, ahogy éppen teszi. Ebből pedig az következik, hogy ha az MI viselkedésének magyarázatát nem kezelik szükségszerűségként már a rendszerek tervezésekor (hogy a fejlesztésről, tesztelésről és telepítésről ne is beszéljünk), akkor a saját találmányaink fognak megtéveszteni bennünket. Ez pedig a rossz attitüdök matematikai-statisztikai alapon való újratermelésétől és a valóság átértelmezésétől egészen odáig terjedhet, hogy nem értjük majd azoknak az algoritmusoknak a működését, amelyek hatásai alól képtelenek vagyunk kivonni magunkat.