Ismét az izraeli kutatók jeleskedtek: csak most nem lehallgatásból, hanem megtévesztésből vizsgáztak kiválóan. Egy projektben az egyetem és a NEC kutatói olyan természetes sminkelési módszert dolgoztak ki, amely képes megtéveszteni a legmegbízhatóbban működő arcfelismerő mesterséges intelligencia (MI) algoritmust is, vagy elrejteni az embert – ahogy tetszik. A projekt érdekessége egyébként, hogy a NEC szakemberei találták ki azt is, hogy miként lehet maszkban felismerni az arcot.

A kutatásról annak idején a neves MI-szakértő, Andrew Ng is beszámolt blogjában; de akit érdekelnek a projekt tudományos mélységei, kattintson ide az összefoglaló tanulmány PDF-változatáért.

A kutatók húsz önkéntessel dolgoztak. Első lépésként leképeztették a résztvevők arcát a Google FaceNet rendszerével egy kompakt euklideszi térre. Utána készítettek az arcokról egy pontos hőtérképet, amely alapján feltárták, hogy az arcfelület mely területei a legfontosabbak az azonosításhoz.

Ezután egy újabb segédeszközhöz folyamodtak, mégpedig egy egyszerű, végfelhasználóknak szánt, sminkelést segítő apphoz, a YouCam Makeup nevű szoftverhez. Az app segítségével a hőtérképeket digitális sminkmintákká alakították.

Az így elkészített sminkmintákat aztán visszatáplálták a FaceNet-be, és addig ismételték a módosításokat, amíg a kísérleti alanyokat az arcfelismerő már nem tudta azonosítani. Az így kialakult mintát egy sminkmester fizikailag is felvitte az alanyok arcára, de semleges tónussal.
 

Keresd meg a különbséget! Sminkelési minta a tanulmányból

A kísérlet sikerét egy élesben is használt ArcFace nevű rendszer igazolta vissza. A kísérletben résztvevő személyeknek egy ezzel a rendszerrel megfigyelt folyosón kellett végigsétálniuk először smink nélkül, majd sminkkel. Az arcfelismerő nem volt tökéletes, hiszen az embereket smink nélkül is csak a képkockák 47,6 százalékán ismerte fel. De amikor felkerült a FaceNet segítségével megalkotott álcázó smink, az azonosítás már csak a képkockák 1,2 százalékánál volt pontos. Ugyanakkor az is bebizonyosodott, hogy nem jó akármilyen elváltoztató smink. Amit csak véletlenszerűen kent fel a sminkmester, nem működött: az ArcFace még mindig a képkockák 33,7 százalékán azonosította a résztvevőket.

A legmegdöbbentőbb, hogy első, felületes pillantásra alig látható a különbség a smink nélküli, a véletlenszerűen kisminkelt és a mérések alapján elváltoztatott arc között (lásd a képet). így fölöslegessé teszi olyan kiegészítők használatát, ami gyanút kelthetne a biztonságiakban. És talán ez az eddigi legegyszerűbb módszer arra, hogy átlagemberek meghiúsítsák az arcfelismerést (a "legegyszerűbb" persze azért itt is erősen idézőjeles).

Védekezzünk, mert az arcfelismerők gonoszak?

Az arcfelismerő algoritmusokkal egyelőre rengeteg a gond, mint láttuk, a fenti kísérlethez használt ArcFace is erősen pontatlan volt. Komoly nemzetközi viták folynak arról, hogy hogyan is lehetne ezt kezelni. Az IBM például a legradikálisabb utat választotta: leállította a fejlesztéseket. A kétséges megbízhatóság egyik eredménye az, hogy az ilyen algoritmusok alkalmazása vagy ellenzése egyelőre kevésbé szakmai, sokkal inkább politikai kérdés. Az újonnan felállt német koalíciós kormány például egyik első lépéseként, követve az EDRi ajánlásait  a biometrikus, köztük az arcfelismerésen alapuló azonosítás uniós tiltása mellett tette le a voksát.

A szakmai közvélemény azonban inkább a mérésre szavaz. Az USA Nemzeti Szabványügyi és Technológiai Intézete, a NIST például az ezredforduló óta évente teszteli sztenderd feladatokkal az arcfelismerő algoritmusok megbízhatóságát. 2000-ben még csak öt vállalat termékét kellett tesztelnie egy az amerikai kormány által biztosított adatbázison. A legutóbbi alkalommal (az összesítő PDF letölthető NIST oldaláról vagy a GitHubról) már 1014 algoritmus vizsgázott megbízhatóságból. Az algoritmusokat most már többféle tesztnek vetik alá (különböző szituációkban készül, eltérő minőségű felnőtt fotók, gyerekek kizsákmányolását ábrázoló képek).

A legjobban a kínai SenseTime és a hollandiai székhelyű VisionLabs terméke szerepelt a tesztben, de befutott melléjük egy nyílt forráskódú projekt, az InsightFace is. Andrew Ng szerint ezek a tesztek éppen azért fontosak, mert a gyártókat rendre az a vád éri, hogy termékeik pontatlanok, előítéletesek és veszélyeztetik az egyéni szabadságot. Ezek a tesztek azonban számszerűsítik a megbízhatóságot, így alkalmasak a termékek iránti bizalom növelésére. Ez segítené az is, ha a gyártókat rendszeres auditnak vetnék alá, véli a szakember.