A Chicagói Egyetem kutatói még februárban ismertették azt az általuk kidolgozott technikát, amelynek célja a digitalizált műalkotások védelme lenne a rajtuk keresztül betanított és a művészek stílusát is hatékonyan másoló MI-modellektől. Utóbbiakat legnagyobb részt az interneten hozzáférhető képekkel etetik, de erre a jogtulajdonosoktól nem feltétlenül kérnek engedélyt, akiknek arra sincsenek hatékony eszközeik, hogy utólag kivonják munkáikat az adatkészletekből. Az egyetemen fejlesztett, Glaze nevű program azonban az emberi szemnek láthatatlan réteget helyez el a képeken, úgy módosítva azok kiválasztott jellemzőit, hogy a mesterséges intelligencia ne legyen képes azonosítani meghatározó jegyeiket.
A kutatók néhány nappal ezelőtt ennél is tovább léptek, és bemutatták a Nightshade-et, ami még tovább viszi az adatok feldolgozásának szabotálását. A még fejlesztési fázisban lévő eszköz slkslmzásával ugyanis elérhető, hogy a mesterséges intelligencia ne csak a stílusokat, hanem akár a képeken szereplő tárgyakat és a jeleneteket is tévesen azonosítsa. A leírás alapján például kutyákról készült képeket sikerült vele átalakítani olyan módon, hogy azok az MI-modellek értelmezésében macskaként jelenjenek meg, és mindössze száz ilyen manipulált minta expozíciójával elérték, hogy a generatív mesterséges intelligencia következetesen macskát rajzoljon, amikor kutya ábrázolására utasították.
Trükkös képek és mérgezett promptok
A technika természetesen nem csak a mesterséges intelligencia esetenkénti összezavarására alkalmas, hanem megkérdőjelezi a generatív MI-modellek alapvető működési elveit is. Miután az ilyen rendszerek hatékony működése hatalmas mennyiségű multimédiás adat feldolgozásától függ, az adatok csoportosításával befolyásolhatók a konkrét felszólításokra adott válaszaik, még tovább rontva a mesterségs intelligenciával előállított tartalom pontosságát. A támadások ráadásul más irányból is érkezhetnek: egy nyílt forrású modell célzott átalakításán és terjesztésén keresztül már korábban is szemléltették a dezinformáció új eszközeit, amelyeket ellen ráadásul a hagyományos benchmarkok sem nyújtanak védelmet.
A Glaze kiterjesztéseként hivatkozott Nightshade ugyanilyen komoly kihívás elé állíthatja az MI-fejlesztőket, mivel a mérgezett pixeleket tartalmazó képek azonostása és eltávolítása a kutatók szerint is igen összetett feladat lesz. Ha a manipulált képek a mesterséges intelligencia betanítására szolgáló adatkészletekbe integrálódnak, akkor az az MI-modellek eltávolítását és újraképzését is szükségessé teheti. Ez nyilván fejtörést okoz majd a jogosulatlan felhasználásra támaszkodó piaci szereplőknek, míg a kreatív munkájukat védő művészek üdvözölni fogják a dolgot. Kérdés, hogy előtérbe kerülnek-e rajta keresztül azok az ellentmondások, amelyek a digitális térben mindkét oldal álláspontjára jellemzőek.
Exkluzív szakmai nap a felhők fölött: KYOCERA Roadshow a MOL Toronyban
A jövő irodája már nem a jövő – hanem a jelen. A digitális transzformáció új korszakába lépünk, és ebben a KYOCERA nemcsak követi, hanem formálja is az irányt. Most itt a lehetőség, hogy első kézből ismerje meg a legújabb hardveres és szoftveres fejlesztéseket, amelyekkel a KYOCERA új szintre emeli a dokumentumkezelést és az üzleti hatékonyságot.
a melléklet támogatója a One Solutions
Digitalizáció a mindennapokban: hogyan lesz a stratégiai célból napi működés?
A digitális transzformáció sok vállalatnál már nem cél, hanem elvárás – mégis gyakran megreked a tervezőasztalon. A vezetői szinten megfogalmazott ambiciózus tervek nehezen fordulnak át napi működéssé, ha hiányzik a technológiai rugalmasság vagy a belső kohézió. A valódi előrelépéshez olyan infrastruktúrára, szolgáltatásokra és partneri támogatásra van szükség, amelyek nemcsak technológiai válaszokat adnak, hanem üzletileg is működőképes megoldásokat kínálnak.
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak