Újabb bizonyítékként szolgál a deepfake technológiában rejlő potenciális veszélyekre az amerikai Szövetségi Nyomozó Iroda (FBI) kedden kiadott figyelmeztetése. A hatóság ezt annak kapcsán küldte, hogy egyre több olyan esettel találkoznak, amikor egy informatikai állás betöltésére a videós interjúra nem a reménybeli dolgozó, hanem egy belső információkra éhes bűnöző jelentkezik be.

A deepfake lényege, hogy egy anyagot (legyen szó képről, videóról, vagy éppen hangfelvételről) úgy manipulálnak, hogy az eredeti személy helyett valaki más arcvonásait, hanghordozását imitálja. Mindez a technológia fejlődésével egyre meggyőzőbbé válik, miközben az algoritmus betanításához szükséges digitális minta mennyisége is csökken.

Trójai adatfaló

Az FBI tájékoztatása alapján a csalásokat jellemzően adatbázisok kezelésével és egyéb szoftveres feladatokkal összefüggő munkaköröknél próbálták elkövetni. A megcélzott állások között több olyan volt, ahol a munka megkövetelte az ügyfelek személyes adataihoz, pénzügyi adataihoz, nagy adatbázisokhoz, illetve egyéb védett információkhoz való hozzáférést.

Az elkövetők lopott személyi azonosítókkal operálva próbálják valós kilétüket elfedni, a trükkhöz pedig azért ideális a deepfake, mivel kizárólag távmunkás pozíciókra pályáznak, ahol a felvételiztetési procedúra is videós kapcsolaton keresztül zajlik. Az FBI arra kéri a vállalatokat, hogy figyeljék a technológiára (még) jellemző hibákat. Ilyen jel lehet, hogy a képen látható személy szájmozgása nem teljesen egyezik az érkező hanggal. Olyan hirtelen cselekvéseknél, mint amilyen a köhögés és tüsszentés, pedig gyakran feltűnhetnek valódi felvételeken nem látható vizuális zajok, anomáliák.

A veszélyt fokozza, hogy az USA-ban (és a világ más részein is) fokozott igény mutatkozik a megfelelően képzett informatikai szakemberekre. A dolgozókért folyó verseny miatt a cégek igyekeznek minden lehetséges módon magukhoz csábítani a potenciális jelölteket. Az informatikusok prioritási listáján pedig előkelő helyen szerepel a rugalmas munkavégzés, ami a távmunkának köszönhetően akár határokon átívelően is megoldható.

Mélyen ülünk a problémában

A deepfake jelentette kihívások az FBI figyelmeztetése előtt is meglehetősen világossá váltak. Különösen annak fényében, hogy sorra érkeznek azok a tanulmányok, amelyekből kiderül, hogy a mesterségesen generált, módosított anyagokkal immár következetesen lehet megtéveszteni embereket, illetve automatikus azonosítási rendszereket.

Az sem véletlen, hogy az EU nemrégiben figyelmeztette a nagy technológiai vállalatokat arra, hogy amennyiben nem tesznek meg mindent az ilyen tartalmak szűrésére, terjedésének megakadályozására platformjaikon, akkor súlyos következményekkel számolhatnak.

A probléma orvoslására idén tavasszal egy széles koalíciót is tető alá hoztak, amelyben szoftvercégektől kezdve a csipgyártókon át a közösségi hálózatokig mindenki benne van. A cél olyan szabványok kidolgozása, amelyekkel sikerrel vehető fel a harc az online térben megosztott hamis képek és videók ellen.