A Chicagói Egyetem kutatói tavaly februárban számoltak be egy általuk fejlesztett programról, a Glaze-ről, ami a digitalizált műalkotások védelmét célozta a rajtuk keresztül betanított, a művészek stílusát is hatékonyan másoló MI-modellektől. A Glaze egy emberi szemmel nem észrevehető réteget ad a képekhez, úgy módosítva azok bizonyos jellemzőit, hogy a mesterséges intelligencia ne legyen képes a meghatározó jegyeiket azonosítani. Októberben aztán bejelentették a technika Nightshade néven továbbfejlesztett változatát is, ami már képes volt úgy átverni az MI-t, hogy az a képek tartalmát is tévesen azonosítsa.

A Nightshade teljesítményének finomhangolását és a felhasználói felület befejezését követően a fejlesztők a múlt pénteken tették elérhetővé az alkalmazás 1.0-s verzióját. Mint az oldalukon írják, a szoftvert "támadó eszköznek" szánják, miközben a Glaze a védekezést szolgálja, és együttesen javasolják mindkettő használatát. A pixelek szintjén végrehajtott, finom módosításokat az UV-fényhez hasonlítják, mivel szabad szemmel jórészt észrevehetetlenek, de az MI-modellek emiatt máshogy látják, sőt tévesen értelmezik a képeket – vagyis olyan adatmintává alakítják a digitális tartalmat, ami alkalmatlan a modellek megfelelő képzésére.
 

Today is the day. Nightshade v1.0 is ready. Performance tuning is done, UI fixes are done.

You can download Nightshade v1.0 fromhttps://t.co/knwLJSRrRh

Please read the what-is page and also the User's Guide on how to run Nightshade. It is a bit more involved than Glaze

— Glaze at UChicago (@TheGlazeProject) January 19, 2024

Egész pontosan úgy fogalmaznak ezzekl kapcsolatban, hogy a Nightshade az anyagkat "mérgező mintákká" alakítja, így a rajtuk tanított modellek kiszámíthatatlan, az elvárt normáktól eltérő viselkedést produkálnak: például ha azt az utasítást kapják, hogy alkossák meg egy űrben repülő tehén képét, akkor egy űrben lebegő kézitáskával jönnek majd elő. A technika széles körű elterjesztésével pedig megnehezítenék, hogy a modellek taníthatók legyenek a beleegyezés nélkül begyűjtött online tartalommal, jelentősen megnövelve az engedély nélküli felhasználás költségeit és a licencelt alkotások felé terelve az MI-fejlesztőket.

Ahogy a beszámolók kiemelik, pillanatnyilag tényleg ez tűnik a legjobb módszernek, hogy a művészek megvédjék a munkájukat, mert a jogi lehetőségek még elég bizonytalanok, sőt a képeknek az adatkészletekből való utólagos kivonjására sincsenek hatékony eszközök. Bár az ipargi szereplőket már sokan és sok helyen beperelték, döntések még nem születtek az ilyen ügyekben, az MI-cégek pedig addig is annyi tartalmat porszívóznak fel, amennyit csak győznek. Sőt a szabályozói oldalon azért lobbiznak a fejlődésre és a közérdekre hivatkozva, hogy lehetőséget kapjanak a jogvédett anyagok "méltányos felhasználására".