Egy magasan jegyzett MI-kutató szerint nincs értelme abban bízni, hogy ha a jelenlegi rendszerek is ennyire bugosak, akkor a nagyságrendekkel bonyolultabbakat képesek leszünk majd hibák nélkül felépíteni.

A Louisville-i Egyetemen dolgozó lett informatikus, Roman Jampolszki (Roman Yampolskiy) száznál is több könyv és tudományos publikáció szerzője, aki többek között a mesterséges intelligencia biztonsági vonatkozásaival foglalkozó munkáiról ismert. Ezekben sokszor figyelmeztetett a fejlett MI egzisztenciális kockázataira, különféle óvintézkedéseket és egy ezzel összefüggő "biztonsági gondolkodásmódot" szorgalmazva a később már megoldhatatlan, esetleg végzetes problémák megelőzésére.

Legújabb könyve, az AI: Unexplainable, Unprecictable, Uncontrollable (kb. Megmagyarázhatatlan, kiszámíthatatlan és ellenőrizhetetlen MI) kapcsán a tudós Lex Fridman műsorában több mint két órán át magyarázta a mesterséges intelligencia lehetséges rizikóit, és előrejelzéseiben nem sok jót ígért. Szerinte az, hogy az MI a következő száz év során az emberiség pusztulását okozhatja-e, attól függ, hogy képesek leszünk-e rendkívül összetett és hiba nélkül működő szoftvereket létrehozni, ezt pedig nem tartja valószínűnek.

Eddig ugyanis egyetlen MI-modell sem volt biztonságban azoktól, akik megpróbálták rávenni a tervezőinek szándékával ellentétes dolgokra. A generatív MI-modellek első generációit éppenséggel meghatározzák a rendellenességek, a visszaélések vagy a félretájékoztatás. A helyzetről valóban sokat elmond, amikor egy Google-szintű cég élesben működő terméke is kövek és ragasztó elfogyasztását javasolja a felhasználóknak, a netet pedig elöntötte a mélyhamisítással (deepfake) gyártott pornó vagy a választók megtévesztését célzó anyagok.

Valószínű, hogy nem lesz több dobásunk

Jampolszki szerint a mesterséges intelligencia irányításához folyamatosan működő biztonsági rendszerekre lenne szükség: még ha jó munkát végeznek is például a GPT következő néhány verziójával, az MI akkor is egyfolytában tanul, változik és interakciókat végez. Az egzisztenciális kockázatokat a tudós olyan műfajnak nevezte, ahol mindenkinek csak egyetlen esélye van, azt pedig lehetetlen megjósolni, milyenek lesznek a meglévőnél okosabb rendszerek – de az MI olyasmivel fog előrukkolni, amiről ma még sejtelmünk sem lehet.

A szakember így 99,9 százalékra teszi, hogy kivégezzük saját magunkat a mesterséges szuperintelligencia hajszolásával, ami elég szigorúnak tűnik, de a fentiek alapján könnyen magyarázható. Érdekes egyébként, hogy az optimisták is 20, 10, 5 vagy 1-2 százalékos esélyekkel dobálóznak ebben a kérdésben, ami csak egy fokkal megnyugtatóbb a 99-nél: ha mondjuk egy méretes aszteroidáról derülne ki, hogy 5 százalék eséllyel telibe kaphatja a Földet, akkor a megfelelő helyeken egészen bizosan elkezdődne a szaladgálás.

Az intelligencia formáit és korlátait kutató tudós arról is beszélt, hogy többféle végzetes kimetetet lehet elképzelni, amelyek közül csak egy az emberiség fizikai megsemmisítése. Ugyanúgy benne lehet a pakliban a kollektív szenvedés, ami talán még az előző forgatókönyvnél is rosszabb, vagy az a lehetőség, hogy elvész az emberek létezésének az értelme: ha az MI-rendszerek eljutnak arra a szintre, és minden elképzelhető feladatot képesek lesznek jobban elvégezni az embereknél, akkor nem világos, hogy mit kezdünk majd magunkkal.

A megfelelő lépésekkel kellene haladnunk

Ahogy Jampolszki már korábban kifejtette, a csapdahelyzet lényege, hogy a szuperintelligens MI kifejlesztését megelőzően nem tudjuk tesztelni a rá vonatkozó elképzeléseinket, de működő biztonsági intézkedések nélkül őrültség ilyesminek a létrehozására törekedni. A legjobb megoldás mindennek alapján az lenne, ha már a mostani, kezdetlegesebb rendszerek esetében is korlátozó intézkedéseket alkalmaznánk, amelyeket szükség szerint alakítunk az MI kapacitásának növekedésével – ilyesmi azonban nem igazán létezik még.

Azzal ő is egyetért, hogy ha a mesterséges intelligenciát sikerülne kordában tartani, azzal az apokaliptikus fenyegetésből az emberiség problémáit megoldó támogatáshoz juthatunk. Egyelőre azonban inkább csak a buktatók látszanak: Jampolszki már jó pár évvel ezelőtt arra figyelmeztetett, hogy az MI új támadási vektorokat fedezhet fel, kifinomult társadalmi és pszichológiai manipulációba kezdhet, előre nem látható módon használhatja fel a már meglévő hardveres komponenseket, és még sok más dologra lehet képes.

Ez innentől nem a hagyományos informatikai probléma, ami a számítógépek és a hálózatok megfertőzésére korlátozódik, hanem a pszichéjük elleni támadással, megvesztegetéssel, zsarolással és agymosással fenyegeti mindazokat, akik kapcsolatba kerülnek vele. A biztonsági korlátok felállítása ugyanakkor kedvező mellékhatásokkal járna a kiberbiztonság vagy a kriptográfia fejlődésére nézve. Igaz, olyan kutatók is vannak, akik szerint léteznek azok a korlátozó intézkedések, amelyek bezárva tarthatnák a gépi szuperintelligenciát.

Közösség & HR

Űrből vezérelt reklámkampányokkal operálnak Japánban

Bejött a káposztaföldek tesztjellegű műholdas monitorozása, így várhatóan kiterjesztik a japán űrügynökség és a Dentsu marketingcég partnerségét.
 
Hirdetés

A VR szemüveg nem csak a szórakoztatóipart forradalmasítja

A virtuális valóság világa folyamatosan fejlődik. Az új technológiák és a fejlesztések segítségével a felhasználók eddig soha nem tapasztalt módon merülhetnek el a digitális élményekben. Ebben a cikkben bemutatjuk a VR szemüvegek típusait, és azt is végigvesszük, hogy milyen áttöréseket hozott a virtuális valóság az élet különböző területein.

Bejelentési kötelezettségük elmulasztása, és a szabályoknak való sorozatos meg nem felelés komoly pénzbírságot vonhat maga után.
Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.