Nemsokára széles körben is elérhetővé válnak a minden eddiginél hatékonyabb MI-képgenerátorok, miközben nem létezik megbízható megoldás az általuk előállított képek azonosítására.

Egyes becslések szerint 2025-re az új online tartalmaknak már több mint 90 százalékát valamilyen mesterséges intelligencia állíthatja majd elő, ami számtalan súlyos problémát okozhat. Ilyen mondjuk az MI-modellek összeomlása: mivel a robotoknak nem erősségük az általuk feldolgozott információ értelmezése, az egymást tanító rendszerek olyan degeneratív folyamatot indíthatnak be, ami visszafordíthatatlanul tönkreteszi az internetes információs teret. Ezt pedig tovább súlyosbíthatják az esetleges rosszhiszemű beavatkozások, vagyis a betanításra használt adatok "mérgezése" azzal a céllal, hogy megváltozzon a modellek viselkedése.

Az Axios riportja a mesterséges intelligenciával kapcsolatos félelmek közül most azt a jelenséget is kiemeli, hogy mennyire élethűen dolgozik a tartalomgenerátorok legújabb hulláma. A cikk alapján a technológia következő iterációját fejlesztő embereket egyre jobban foglalkoztatja, hogy a belső tesztek során már a szakértők sem feltétlenül tudják megmondani, valódi vagy hamis képekkel van dolguk. A lap által megszólaltatott vezető fejlesztő szerint senki sem számított rá, hogy az ilyen szintű hatékonyság ilyen hamar lehetővé válik, ami legalábbis nyugtalanító dolog a közelgő amerikai elnökválasztás és a nemzetközi konfliktusok közepette.

A vízjelezés ide már kevés lesz

A bennfentesek a beszámoló szerint arra számítanak, hogy 2024-re gyakorlatilag bárki használhatja vagy megvásárolhatja majd ezeket a technológiákat, ráadásul a közösségimédia-szolgáltatók dezinformációs politikája sem fejlődik megfelelően (sőt egyes esetekben éppenséggel visszafelé fejlődik). Bár a mesterséges intelligenciáról szóló világvége-jóslatokat érdemes a megfelelő távolságtartással kezelni, az is igaz, hogy a jelenegi biztonsági készségek egyáltalán nem működnek megfelelően: ahogy október elején kiderült, egyetemi kutatók sorra feltörték a külőnféle vízjelező megoldásokat, amelyek sebezhetősége amúgy sem volt újdonság.

A Wired vonatkozó összeállításából ráadásul kiderült, hogy a rosszindulatú szereplők nem csak kikerülni képesek a szemmel nem látható vízjelezést, de akár hozzá is adhatnak ilyen vízjeleket az eredeti, emberek által készített képekhez, hamis pozitívokat generálva a vizsgálatok során. Végül ott van egy kevésbé technológiai jellegű probléma is, mégpedig az, amikor egyszerűen nem érdekel majd senkit, hogy jelölve vannak-e a mesterséges intelligenciával manipulált felvételek. Mint kiderült, az Adobe például MI-vel generált képeket árul a gázai konfliktussal összefüggésben, amelyeket sokan anélkül osztanak meg, hogy jelölnék eredetüket.

Biztonság

MI-vel védenék a britek az internetre szabadított óvodásokat

Az illetékes hatóság felmérése szerint egyre több kisgyerek jelenik meg a világhálón, akiknek a szülei is egyre nagyobb szabadságot engednek a digitális térben.
 
Hirdetés

Adathelyreállítás pillanatok alatt

A vírus- és végpontvédelmet hatékonyan kiegészítő Zerto, a Hewlett Packard Enterprise Company platformfüggetlen, könnyen használható adatmentési és katasztrófaelhárítási megoldása.

Hol, milyen adatokat és hányszorosan tároljunk ahhoz, hogy biztonságban tudhassuk szervezetünk működését egy nem várt adatvesztési incidens esetén is?

a melléklet támogatója az EURO ONE Számítástechnikai Zrt.

CIO KUTATÁS

TECHNOLÓGIÁK ÉS/VAGY KOMPETENCIÁK?

Az Ön véleményére is számítunk a Corvinus Egyetem Adatelemzés és Informatika Intézetével közös kutatásunkban »

Kérjük, segítse munkánkat egy 10-15 perces kérdőív megválaszolásával!

LÁSSUNK NEKI!

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.