Pénzügyi szolgáltatók ügyfeleit, sőt választókat azonosító online rendszerek hasaltak el elsöprő arányban abban a kísérletben, amelyet a Sensity munkatársai végeztek el. A kifejezetten a mesterséges intelligenciára támaszkodó hamis képgeneráló megoldások kiszűrésére specializálódott biztonsági cég eredményei igazolni látszanak a terület létjogosultságát, ám a sikeresen átvert rendszerek szállítóit ez első körben nem igazán hatotta meg.
A szakemberek 10 vezető gyártó személyazonosításra alkalmazott, úgynevezett élethűségi tesztjének gyenge pontjaira mutattak rá azzal, hogy egy személyi igazolványra egy másik ember arcvonásait ültették át, majd ugyanennek a személynek az arcát élő videófolyamban is "kölcsönvették" az azonosítást élőben végző algoritmus átverésére. (Azaz a Sensity a már jó pár éve ismert, és sok problémát felvető deepfake technikát vetette be.)
Az ilyen tesztek során a felhasználónak valós időben kell különböző feladatokat (mosolygás, jobbra-balra nézés stb.) elvégezni, a rendszer pedig ezek alapján bizonyosodik meg róla, hogy a személyi tulajdonosa és a számítógép vagy mobil előtt lévő személy egy és ugyanaz.
Elhasaltak
A biztonsági cég jelentése szerint a kísérletükben egyetlen kivételtől eltekintve minden megoldás sebezhetőnek bizonyult a deepfake támadásokkal szemben. A Sensity ügyvezetője a The Verge-nek nyilatkozva elmondta, hogy nagyon csalódottak voltak az érintett gyártók reakciója miatt. Francesco Cavalli szerint az eredményekről értesült szállítók reakciója nagyjából a "nem érdekel minket" félmondattal foglalható össze. És bár jogi megfontolások miatt az érintett vállalatok nevét nem hozták nyilvánosságra, a Sensity a kísérlet tapasztalatainak nyilvánosságra hozásával igyekszik ráirányítani a figyelmet a problémára. (Amitől természetesen a megrendelések felszaporodását is remélheti a biztonsági cég.)
A Sensity által tesztelt szállítók számos ügyfélnek, köztük bankoknak, társkereső alkalmazásoknak és kriptopénz-startupoknak értékesítik ezeket az automatikus ellenőrző rendszereket. Az egyik szállító megoldását pedig nemrégiben szavazók személyazonosságának ellenőrzésére is használták egy afrikai országban lebonyolított választás során.
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak