A létező felvételek utólagos manipulálására már hosszú ideje léteznek alkalmazások, a mesterséges intelligencia és az öntanuló rendszerek fejlődésével azonban nem csak az az átlagos emberi érzékszerveknek hitelesnek tűnő kép- és hanganyagok előállítása lép újabb szintre, hanem az MI automatizációs képességei révén a megfelelő célpontok elárasztása is megoldhatóvá válik a hamisítványokkal. Nem véletlen, hogy a deepfake technológiákat és az audiovizuális megszemélyesítéseket ma már a biztonsági kutatók is a legmagasabb kockázatú fenyegetések közé sorolják.

A deep learning és a fake (mélytanulás és a hamisítvány) szavakból képzett deepfake egyre látványosabb karriert fut be a tévésorozatok gyors és élethű szinkronizálásától kezdve egészen a sikeres bankrablásokig, a dezinformációs kísérletek eddigi hatásai pedig ezen a területen is arra figyelmeztetnek, hogy mennyire fontos lenne az ilyen technológiai alkalmazások és a "támadó MI" szabályozása. Az utóbbi időben már nem is csak technológusok, hanem a témát jól ismerő más szakemberek is gyakran beszélnek azokról a veszélyekről, amelyeket a deepfake jelent a társadalomra.

A BBC néhány napja James Cameronnal közölt videóinterjút, amelyben a legendás filmrendező beszélt a "hamisított médiáról", illetve az ezzel összefüggő eszközök fejlődéséről. Szerinte azok a megoldások, amelyekkel az átlagember letölthető appok formájában találkozik és szórakoztatja magát, még nem kifejezetten ütősek, de belátható időn belül az ezektre jellemző korlátok teljesen felszívódnak majd. Az újkori médiafogyasztási szokások, a hírek gyors pörgetése és a címek alapján való megosztása pedig azt is jelenti, hogy már senki sem áll meg elemezgetni a képek és videók apró hibáit.

Az információ terjedése és annak következményei így valamiféle pillangóhatással jellemezhetők, amikor az emberek végigfutják ismerőseiknek a címsorokra adott reakcióit, és úgy érzik, nincs is szükségük további kontextusra – egyszerűen megosztják azokat a (jellemzően negatív) érzelmi reakciókat, amelyeket a töredékes információ kiváltott belőlük. A hírciklusok és a velük kapcsolatos megnyilvánulások pedig olyan rövidek és gyorsak, hogy nagyon komoly incidensekre kerülhet sor már a deepfake hamisítványok közzététele és a hamisítás tényének leleplezése között is.

Éppen most zajlik az, amitől féltünk

Ez a jelenség a mesterséges intelligenciára épülő alkalmazások fejlődésével együtt a védekezést is szinte lehetetlenné teszi, ha nem vetnek be ugyancsak MI-alapú megoldásokat a valódi és a manipulált média közötti, egyre finomabb különbségek észlelésére. Másképpen nem igazán akadályozható meg a deepfake anyagok közzététele és terjesztése, az erre szolgáló eszközök azonban ma még sok szakember szerint könnyen megtéveszthetők. A hitelesítéshez és a bizalom megerősítéséhez valószínűleg olyan mechanizmusokra is szükség lesz, mint amilyen például a blokklánc és az elosztott főkönyvi rendszerek.

Cameron a felhasználóknak egyébként "Occam borotváját" javasolja, vagyis azt az elvet, amely szerint két, az adott jelenséget egyformán jól leíró magyarázat közül az egyszerűbbet érdemes választani. Ezen az összeesküvés-elméletek is rendszerint fennakadnak: az emberek nem annyia pengék, az emberi rendszerek nem működnek annyira hatékonyan, a legtöbben akkor sem tudnak titkot tartani, ha az életük múlik rajta, és a legtöbb hatalmi pozícióban lévő ember sem gonosz zseni, hanem csak valami bólogató János.

A rendező ma úgy látja, hogy ha a Terminátor-filmekből ismert, öntudatra ébredő mesterséges intelligencia, a Skynet el akarná törölni az emberiséget, akkor a dolog nagyon hasonlóan festene ahhoz, mint ami mostanában történik. A gépnek nem kellene atomfegyverekkel lövöldöznie, mert sokkal könnyebben és kevesebb befektetéssel az emberek ellen fordíthatná a saját elméjüket. Szerinte a Skynetnek csak annyit kellene tennie, hogy elkészít egy csomó minőségi deepfake anyagot, nagy felhajtást csap körülöttük, az egészet kiszórja a felhasználók közé, a többit pedig ránk bízza.