Az Anthropic figyelmeztetése alapján a döntéshozóknak már nem sok idejük maradt, ha proaktív módon elejét akarják venni a tragédiáknak, amelyekkel a mesterséges intelligencia fejlődése fenyeget.

A Claude modelleket fejlesztő Anthropic október közepén tette közzé Responsible Scaling Policy (RSP) szabályozásának új kiadását, ami frissítéseket tartalmazott az egy évvel korábbi anyaghoz képest. A társaság nyilvános kötelezettségvállalását a biztonságos, megfelelő kockázati intézkedések mellett felépített modellek bevezetéséről most az elmúlt időszak tanulságaival egészítették ki, leszögezve többek között, hogy a gyorsan fejlődő technológiai területen a kockázatok felügyeletének arányosnak, iteratívnak és exportálhatónak kell lennie.

Egy október végi közleményben ismét felhívták a figyelmet az MI-rendszerek rizikójára, jól strukturált szabályozást sürgetve a lehetséges katasztrófák elkerülése érdekében. Ahogy a mesterséges intelligencia egyre látványosabban teljesít az olyan képességekben, mint a matematika, az érvelés vagy a kódolás, jelentősen megnő a visszaélések esélye is a kiberbiztonságtól egészen a vegyi, biológiai, radiológiai vagy nukleáris (CBRN) fenyegetettséggel járó helyzetekig. Az Anthropic szerint a következő 18 hónapban kritikus időszak vár a döntéshozókra, mert a proaktív megelőzés lehetősége egyre szűkül majd.

A társaság red teaming csapata a közleményben kiemeli, hogy a jelenlegi modellek már most is hozzájárulhatnak a különféle kiberbűncselekményekkel kapcsolatos feladatok végrehajtásához, a jövőbeni modellek pedig értelemszerűen még hatékonyabbak lesznek. Az AI News riportja ezzel kapcsolatban emlékezet rá, hogy az Egyesült Királyság MI-biztonsági intézete szerint már a mai mesterségesintelligencia-modellek között is van, ami PhD-szintű humán szakértelmet helyettesíthet egyes tudományos kérdésekben.

Rendre nagy szükség van, túlzott szigorra nincs szükség

Az Anthropic RSP a védelmi intézkedések erősítését is az MI-képességek kifinomultságának fejlődéséhez kötné, rendszeres értékelésekkel segítve a biztonsági protokollok időben történő áthangolását. A biztonság fenntartása és fokozása mellett a cég kötelezettséget vállal szervezeti működésének bővítésére is a védettséget, az értelmezhetőséget vagy a bizalom erősítését célozva, biztosítva ezzel is az RSP szigorú biztonsági szabványainak betartására való felkészültséget. Az Anthropic szerint a hasonló szabályok széles körű alkalmazása, bár egyelőre önkéntes, mégis elengedhetetlen lenne a teljes iparágban a kockázatok kezeléséhez.

A döntéshozókat a társaság olyan keretek kialakítására ösztönzi, amelyeket stratégiai megközelítéssel dolgoznak ki, szükségtelen plusz terhelés nélkül ösztönözve a megfelelő biztonsági gyakorlatokat. Az Egyesült Államokra nézve a szövetségi jogszabályokban látják a végső választ a mesterséges intelligencia veszélyeinek visszaszorítására, de a világ más országainak is közös jogszabályi környezetet kellene teremteniük a szabványosításra és a kölcsönös elismerésre törekedve, egyben minimálisra csökkentve a szabályozás betartásának költségeit is a különböző régiókban.

A választás után kiderült, hogy senki sem tud semmit

Az amerikai elnökválasztás eredményét tekintve külön érdekes, hogy az Anthropic kitár az előírásokkal szembeni szkepticizmusra. A túlságosan tág, felhasználási esetekre összpontosító szabályozást nem tartja hatékonynak, tekintve, hogy az általános mesterségesintelligencia-rendszereknek végtelen sok alkalmazása van. Ehelyett a vállalat azt javasolja, hogy az MI-modellek alapvető tulajdonságaira és biztonsági intézkedéseire koncentráljanak, ösztönzve az innovációt is. A megfelelés kezdeti terheit elkerülhetetlennek, ugyanakkor minimalizálhatónak tartják rugalmas és gondosan megtervezett biztonsági teszteken keresztül.

Ahogy az első beszámolókból kiderül, Donald Trump meglehetősen kitágítja a mesterséges intelligencia szabályozásának jövőjét az országban. Az Egyesült Államok következő elnöke nem csak azt ígérte meg, hogy hatályon kívül helyezi a Joe Biden által majdnem pontosan egy évvel ezelőtt aláírt rendeletet a mesterséges intelligencia ellenőrzéséről, hanem a big tech vállalatokhoz való viszonyát is egyelőre csak találgatják.

A konzervatív oldalon sok kritika érte a Biden-adminisztráció rendelkezését azzal kapcsolatban, hogy a nagy MI-modelleket fejlesztő vállalatoknak meg kell osztaniuk a red teaming teszteredményeket a szövetségi kormányzattal, azt pedig egyenesen radikális balos eszmeiségnek nevezték, hogy a nemzeti szabványügyi hatóság útmutatásokat ad ki a modellek elfogultságtól mentes működésére. Másfelől ott vannak Trump kampányának olyan szponzorai, mint Elon Musk, akik sokat nyerhetnek egy lazább szabályozással, ami lehetővé tenné, hogy saját vállalkozásaik behozzák a legnagyobb technológiai versenytársakkal szemben meglévő hátrányukat.

Tágabb értelemben is sokan valószínűsítik, hogy az új ciklusban a technológiai ipar további deregulációjára kerül majd sor, például a kriptovaluta-biznisz esetében, amelynek Donald Trump hangos kritikusából lett lelkes támogatója. Egyelőre mégsem világos, hogy a nagy technológiai monopóliumok mire számíthatnak. Az amerikai versenyfelügyelet (FTC) még Trump első hivatali ideje alatt indított eljárásokat a big tech vállalatok ellen, amelyeket később még több hasonló ügy követett. És igaz ugyan, hogy a leendő amerikai elnök a közelmúltban szkeptikusan beszélt a Google keresőmonopóliumának megtörésére irányuló kormányzati lépésekről, jövőbeli alelnöke, J.D. Vance éppenséggel támogatja az FTC trösztellenes hadjáratát.

Piaci hírek

A Samsung headsetjén mutatkozik be a Google kiterjesztett valósága

A most bejelentett Android XR platform már a Gemini MI-technológiájára épül, és új korszakot nyitna az immerzív technológiák fejlődésében.
 
A software defined network már évek óta velünk él. Csak idő kérdése volt a koncepciót kiterjesztése a WAN-okra.

a melléklet támogatója a Yettel

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.