Komolynak tekinthető közösségi ellenállás látszik kibontakozni a generatív mesterséges intelligencia jelentette potenciális veszélyek hatására. Tegnap szó szerint egy seregnyi MI-szakértő és technológiai vezető szólított fel minden ilyen kutatást végző szervezetet, hogy vegyenek egy mély levegőt, és ideiglenesen függesszék fel a GPT-4-nél fejlettebb rendszerek fejlesztését.
Mindez a Future of Life Institute nonprofit szervezet által kiadott nyílt levélben olvasható, amelynek immár több mint 1000 aláírója van. A támogatók között olyan személyek bukkannak fel, mint például Steve Wozniak, az Apple társalapítója; Emad Mostaque, a Stability AI vezérigazgatója; Evan Sharp, a Pinterest társalapítója; vagy éppen a Twitter miatt mostanság naponta címlapokra kerülő Elon Musk. A technológiai cégek vezetőinek, alapítóinak hosszú sorát professzorok és egyetemi kutatók még terjedelmesebb névsora egészíti ki.
A felhívás szerint a fejlett képességekkel rendelkező mesterségesintelligencia-rendszerek "mélyreható kockázatokat jelenthetnek a társadalomra és az emberiségre nézve, ahogy azt kiterjedt kutatások kimutatták és a vezető MI-laboratóriumok is elismerték". Az aláírók ezért kezdeményezik az ilyen rendszerek fejlesztésének "azonnali, legalább hat hónapos szüneteltetését" azzal a kitétellel, hogy ennek a leállásnak nyilvánosnak és ellenőrizhetőnek kell lennie, és valamennyi érintett szereplőre ki kell terjednie.
A levél alig néhány héttel az után jelent meg, hogy az OpenAI bemutatta nyelvi modelljének legújabb változatát. A GPT-4 kapcsán azonnal felerősödtek a kritikák, mivel a rendszer egészen félelmetes trükkök bevetésének lehetőségével ruházza fel az algoritmust. Egy kísérletben például megtörtént, hogy az MI rávett egy élő embert arra, hogy küldje el neki szöveges üzenetben egy CAPTCHA kód megfejtését. Más szóval, a mesterséges intelligencia becsapott valakit, hogy segítségével átmenjen a "nem vagyok robot" szűrésen.
A több száz szakértő és technológiai vezető által támogatott felhívás éppen ezért helyezi a hangsúlyt a gyorsaság helyett a megfelelő gondosságra, illetve a potenciális kockázatok megfelelő beazonosítására és kezelésére. Ahogy a levél fogalmaz: "az elmúlt hónapokban az MI-laboratóriumok kontrollálatlan versenyfutásba keveredtek az egyre erősebb digitális elmék kifejlesztése és bevetése érdekében, amelyeket senki - még a létrehozóik sem - nem tud megérteni, megjósolni vagy megbízhatóan irányítani".
És még a munkát is elveszik
A témához kapcsolódóan érdemes megemlíteni a Goldman Sachs műhelyében készült friss jelentést [PDF], amely a generatív algoritmusok munkaerőpiacra gyakorolt hatásával foglalkozik. A tanulmány arra jut, hogy akár 300 millió munkahelyet is érinthet az MI töretlennek látszó fejlődése.
Mindez komoly munkaerőpiaci zavarokat okozhat a Goldman Sachs szakértői szerint. Csak az USA-ban a munkahelyek mintegy kétharmada lehet érintett kisebb vagy nagyobb formában a mesterséges intelligencia általi automatizálásnak. A jelentés becslése alapján az amerikai munkahelyek mintegy 7 százalékát válthatja ki teljesen az MI, 63 százalékát kiegészítheti, a maradék 30 százalékot pedig egyáltalán nem érinti.
Acronis webinárium az AI-vezérelt kibertámadások kivédéséről
Csatlakozzon 2023. szeptember 26-án az Acronis és a RelNet Technológia Kft. közös szervezésű, exkluzív webináriumához, melynek témája a mesterséges intelligencia által vezérelt kibertámadások hatásainak kezelése lesz.
Jön a Clico formabontó cloud meetupja, ahol eloszlatják a viharfelhőket
Merre mennek a bitek a felhőben, ledobja-e szemellenzőjét az IT-biztonságért felelős kolléga, ha felhőt lát, lesz-e két év múlva fejlesztés cloud nélkül? A Clico novemberben fesztelen szakmázásra hívja a szoftverfejlesztőket a müncheni sörkertek vibrálását idéző KEG sörművházba.
Kilátások az Dunától keletre – állás Gyöngyös városában
A munkalehetőségek terén az ország különböző régiói meglehetősen eltérő lehetőségeket kínálnak, mind mennyiségben, mind minőségben. Ebből a szempontból a legtöbb szó a Dunától keletre lévő területekről esik, ám természetesen itt is találhatók kedvező állás opciók.
Miért ne becsüljük le a kisbetűs jelszavakat? 1. rész