Az Anthropic arra hívta fel a meghatározó MI-kutatókat, hogy fontolják meg munkájuk összehangolt és ellenőrizhető szüneteltetésének lehetőségét, tekintettel arra, hogy a technológia gyors fejlődése miatt az MI-rendszerek hamarosan képessé válnak önmaguk olyan gyors fejlesztésére, amelynek kockázatait a társadalom már nem tudja majd kezelni. A társaság értékelése szerint a mesterséges intelligencia ma már nagyjából négyhavonta válik kétszer jobbá az önálló feladatvégzésben, ami a "rekurzív önfejlesztés", az emberi beavatkozás nélküli fejlődés irányába mutat. Márpedig ha az MI-rendszerek maguk is fel tudják építeni saját fejlettebb változataikat, akkor a biztonságossá tételük, ellenőrzésük és viselkedésük alakításának a lehetőségei is rendkívül fontossá válnak – idézi a Reuters beszámolója az Anthropic nemrég kiadott közleményét.

A vállalat oldalán közölt hosszú bejegyzésben Jack Clark, az Anthropic társalapítója és Marina Favaro, az Anthropic Intézet vezetője úgy fogalmaz, hogy a rekurzív önfejlesztés egyelőre nem elkerülhetetlen dolog, de ettől még "hamarabb bekövetkezhet, mint amire a legtöbb intézmény felkészült". Mindez megerősíti azokat a félelmeket, amelyek szerint a fejlett MI-rendszerek kicsúszhatnak az emberi irányítás alól, és a technológia hatékonyságának növekedésével a potenciális társadalmi károk is egyre nagyobbak lehetnek. Tavaly októberben mi is beszámoltunk arról a kiáltványról, amelyet időközben közel 140 ezer befolyásos személyiség írt alá, és ami az "emberfeletti szuperintelligencia" felépítésére irányuló munka kötelező felfüggesztését követeli, tudományos konszenzushoz és a közvélemény támogatásához kötve annak feloldását.

Az egyoldalú fegyverszünet nem megoldás

Mint ismeretes, az Anthropic saját Mythos modellje nemrégiben már kisebb sokkot okozott a különféle iparágakban, ahogy sebezhetőségeket talált a meglévő kódokban, ehhez képest azonban a szabályozás mindenhol lomhának tűnik – különösen az Egyesült Államokban, ahol a legtöbb vezető MI-fejlesztő cég működik. A Reuters emlékeztet rá, hogy a Trump-kormányzat új végrehajtási rendelete a fejlesztőkre hárította a felelősséget, felszólítva őket, hogy a nyilvános kiadást megelőzően önkéntesen nyújtsák be legfejlettebb modelljeiket kormányzati kiberbiztonsági felülvizsgálatra. Ez azonban nyilvánvalóan elégtelen intézkedés, ha komolyan vesszük az Anthropic figyelmeztetését, a vállalat pedig már maga is közölte, hogy nem fogja visszatartani potenciálisan veszélyes technológiáját, ha versenytársai közel kerülnek annak képességeihez.

A fejlesztések felfüggesztését korábban több kutató, sőt mások mellett Elon Musk, az xAI tulajdonosa is sürgette, kevés sikerrel. Az Anthropic ehhez most azt is hozzáteszi, hogy az "egyoldalú vagy rosszul koordinált lassítás" is visszaüthet, ha a kevésbé óvatos szereplők nem lépnek rá a fékre: az MI fejlődésének tényleges visszafogásához a csúcstechnológiában utazó, sok erőforrással rendelkező laborok megállapodásra lenne szükség, szabályokkal arra vonatkozóan, hogy milyen feltételek váltják ki vagy szüntetik meg az ilyen késleltetéseket, és ki felügyeli azokat. Mivel az egyoldalú lépések legfeljebb a technológiai élmezőny átrendeződéséhez vezetnének, az Anthropic az elkövetkező hónapokban politikai döntéshozók, kutatók, rivális MI-fejlesztők és civil szervezetek összehívását tervezi a kockázatok (így a rekurzív önfejlesztés) megvitatására.

A Reuters hétfői riportja alapján sem az OpenAI, sem az xAI, az Alphabet, a Meta vagy a francia Mistral nem reagált a hírügynökség kérdéseire az Anthropic felhívásával kapcsolatban.

Részletek az Anthropic oldalán  »