A Claude chatbot fejlesztője szerint már tapasztalhatók a jelei a kockázat kialakulásának, és bajban leszünk, ha egy-két éven belül nem szabályozzuk a szélesebb nyilvánosság által hozzáférhető modelleket.
Hirdetés
 

Az Anthropic vezérigazgatója szerint az mesterségesintelligencia-rendszerek gyorsan fejlődnek ugyan, és ezzel felgyorsítják a tudományos felfedezéseket, de a technológiát a bűnözők is munkába állíthatják, akik már két-három éven belül képesek lehetnek biofegyvereket és veszélyes vírusokat létrehozni. A ChatGPT-hez hasonló MI-chatbotot fejlesztő társaság, ahol egy biztonságos és etikus nagy nyelvi modellen (LLM) dolgoznak, biológiai biztonsági szakértőkkel közösen tanulmányozta, hogy a jövőben hogyan használhatók fel a neurális hálózatok fegyverek létrehozására, és a megállapításaik nem kifejezetten biztatóak.

A korábbi OpenAI-alkalmazottak által alapított Anthropic vezetője, Dario Amodei az amerikai szenátus technológiai albizottsága előtt fejtette ki, hogy mekkora szükség lenne a nagy teljesítményű modellek szabályozására a tudományos és mérnöki területeken, így a kiberbiztonságban, a nukleáris technológiában, a kémiában és a biológiában is. Ezen belül az emberek figyelmét is a biológiai kockázatokra irányítaná, és legkésőbb 2026-ot célozná meg a cselekvéssel: szerinte ha nem állnak fel sürgősen azok a korlátok, amelyek visszafogják az MI-rendszerekkel végrehajtható dolgokat, akkor "nagyon rossz idők jönnek".

Az információs részt kipipálhatják

Az ülésen Amodei felvázolta, hogy a biológiai károkozásnak ma még vannak olyan elemei, amelyek magas szintű, speciális szakértelmet igényelnek, és nem férhetők hozzá egyszerűen a Google-keresésekben vagy a tankönyvekben. Az Anthropic viszont megvizsgálta, hogy a jelenlegi MI-rendszerek képesek-e megoldani ezeknek a folyamatoknak a bonyolultabb lépéseit, és azt találtuk, hogy részben már igen. A teljesítményük egyelőre hiányos és megbízhatatlan, de a valós kockázat kialakulásának jeleit mutatja, és ezt extrapolálva már két-három év múlva képesek lehetnek pótolni a hiányzó részleteket a korlátozások hiányában.

A beszámolók mindezek alapján kiemelik, hogy a mesterséges intelligencia fejlődése rövid időn belül látványosan kiszélesítheti azoknak a szereplőknek a körét, akik technikailag képesek lehetnek egy-egy nagyszabású biológiai támadás végrehajtására. A biológiai fegyverek a modern nukleáris fegyverekhez hasonlóan ismertek és dokumentáltak, de tényleges megtervezésük nehéz, és annak kulcsfontosságú részeit titokban tartják. A gépi tanuló modellek azonban képessé válhatnak pótolni ezeket a hiányosságokat, és a kiberbiztonsághoz hasonlóan az ilyen fegyverekhez bevetéséhez sem kell majd különösebb hozzáértés.

Az ülésen felszólalt Yoshua Bengio, a neurális hálózatok úttörő kutatója is, aki mindennek kapcsán olyan jogszabályok elfogadását sürgette, amelyek mérsékelnék a szélesebb nyilvánosság által hozzáférhető MI-modellek képességeit. Szerinte már kiderült, hogy nem hatékony, amikor az ellenőrizetlen modellek kiadói megpróbálják elejét venni a kártékony felhasználásnak, és alapvető probléma, hogy ilyenkor a felelősség kérdése sem tisztázott.

A több mint két és fél órás ülés felvételeit itt lehet megtekinteni, a The Register összefoglalója ezen az oldalon olvasható.

Piaci hírek

Itt a HP és a Google hiperszuper 3D-s konferenciarendszere

A nagyvállalati felhasználásra szánt eszköz 25 ezer dolláros áron kerül majd forgalomba, de erre még pluszban jön a szoftver és a szolgáltatás díja.
 
A digitális támadások célpontjai ma már nem feltétlenül azok a vállalatok, amelyektől a támadók adatokat vagy pénzt akarnak szerezni. Elég, ha a támadás egyik láncszeme nem védett – az elkövetők ezen keresztül lépnek be a rendszerbe. És ez a láncszem gyakran nem is belül van.

a melléklet támogatója a One Solutions

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2025 Bitport.hu Média Kft. Minden jog fenntartva.