Az European Digital Rights (EDRI) nevű jogvédő csoport a jogérvényesülésért felelős európai uniós biztoshoz címzett nyílt levelében arra szólítja fel az EU egyik fő kormányzati intézményét, hogy vigye keresztül az arcfelismerő technológiák tömeges megfigyelésre való felhasználásának kivételek megállapítása nélküli, teljes körű betiltását. Az EDRI és összesen 56 szervezet (köztük a Magyar Helsinki Bizottság) által jegyzett levél apropója, hogy az EB a tervek szerint április 21-én hozza nyilvánosságra azt az új szabályozástervezetet, ami mások mellett a mesterséges intelligencia etikus felhasználásának későbbi kereteit is lefektetné a tagállamokban.

Ahogy január végén mi is beszámoltunk róla, az európai parlamenti képvidelők 364 igen, 274 nem és 52 tartózkodás mellett fogadták el a mindezt megalapozó jelentést, ami arra sarkallja az Unió döntéshozóit, hogy egy világszintű szabályrendszer felállításában is vállaljanak vezető szerepet. A jelentés kitér az alapvető emberi jogokat fenyegető veszélyekre is, amelyek az ilyen jellegű technológiák tömeges polgári és katonai megfigyelésben történő alkalmazásából erednek, és kizárná például a rájuk épülő, Kínában már bevezetett társadalmi kreditrendszer használatát.

Az EDRI ezzel szemben az alapjogok sokkal hangsúlyosabb védelmét várná el a Bizottságtól, különösképpen az arcfelismerés és más biometrikus azonosítási technológiák szabályozásában, illetve a tömeges megfigyelés korlátozásában az ilyen megoldások közterületeken való működtetését illetően. A jogvédő csoport álláspontja alapján az arcfelismerő rendszereknek egyszerűen nem létezik olyan alkalmazása, ami indokolhatná a tömeges megfigyelés okozta jogsérelmeket a magánélethez való jog, a személyes adatok védelme, a megkülönböztetés tilalma vagy a szólásszabadság biztosításának területén.

Már errefelé is mindenütt megjelentek

Bár a szóban forgó technológiák mellett gyakran érvelnek azzal, hogy a megfelelő feltételek között mennyire hatékonyak lehetnek a bűnüldözésben vagy -megelőzésben, az EDRI úgy látja, hogy a kivételeken való szőrszálhasogatás helyett csak az általános tiltás lesz célravezető. A szükségesség és az arányosság feltételei ugyanis a biometrikus azonosító rendszerek nyilvános helyeken való és tömeges alkalmazása mellett egyáltalán nem biztosíthatók, az Unión belüli és azon kívüli felhasználási esetek pedig azt bizonyítják, hogy ezek a fejlesztések minden esetben komoly következményekkel járnak az alapvető emberi jogok európai meghatározásának érvényesítésére.

Az EDRI szerint ilyen telepítésekre egyébként a legtöbb uniós tagállamban is sor került már, sőt az iBorderCtrl nevű határrendészeti fejlesztést maga az Európai Bizottság is finanszírozta. Ez utóbbi az utazók gesztusainak elemzéséből próbál árulkodó jeleket azonosítani arra vonatkozóan, ha valaki szándékosan hazudik egy uniós országba való belépés során: az alanyoknak személyre szabott kérdésekre kell válaszolniuk, a mesterséges intelligencia pedig az arckifejezések elemzésével sorolja őket alacsonyabb vagy magasabb kockázatú csoportokba, hogy az utóbbiakat részletes vizsgálat alá vessék a belépés jóváhagyása előtt.

Az EB tavaly nyilvános vitára bocsátott tervezete elvileg olyan szabályozási keretrendszer felállítására törekszik, ami a fejlesztőktől a rendszerszállítókon át a magán- és állami alkalmazókig minden érintettre kiterjed. Az általános tiltás alól korábban kivontak volna bizonyos biztonsági projekteket és kutatás-fejlesztés céljából telepített rendszereket, és első körben csak arról volt szó, hogy az MI magas kockázatú alkalmazásaira (egészségügy, közlekedés, rendőrség, igazságszolgáltatás stb.) terjesztenék ki a kötelező érvényű jogi szabályozást.

Addig kell dönteni, amíg dönthetünk

Az elmúlt hónapokban azonban az uniós törvényhozói oldalon is egyre erősödnek az arcfelismerés teljes tiltását támogató hangok. Margrethe Vestager, az EB alelnöke például problémásnak nevezte az arcfelismerő technológiák automatizált alkalmazását az Unió adatvédelmi irányelveinek szempontjából, mivel a GDPR egyik meghatározó rendelkezése szerint az európai polgárok biometrikus adatai is csak előzetes beleegyezésükkel dolgozhatók fel. A GDPR azonban meghagyja a "feltétlen szükségesség" kiskapuját, amit az EDRI szerint mindenképpen be kellene zárni, mielőtt túl nagy lenne rajta keresztül a forgalom.

Az ilyen irányú változások számos tagállamban akaszthatnak meg folyamatban lévő programokat. Magyarországon ilyen lehet a Szitakötő-projekt, amelynek keretében több tízezer köztéri kamera felvételeit irányították a Kormányzati Adatközpontba, ehhez pedig a nemzetbiztonsági szolgálatok külső ellenőrző szerv előzetes engedélye nélkül férhetnek hozzá, sőt a nemzetbiztonsági szolgálatokról szóló törvény alapján arcfelismerő algoritmusokat is futtathatnak a képeken.

Az EDRI álláspontja viszont éppen az lenne, hogy az arcfelismerő rendszereket és más, a mesterséges intelligenciára épülő technológiákat nem muszáj valamiféle szükségszerűségnek tekinteni. A szervezet szerint most érünk el ahhoz a fordulóponthoz, amikor még elejét vehetjük egy nagy csomó jövőbeni ártalomnak, és azelőtt vethetünk gátat az ilyen megoldások önkényes felhasználásának, hogy azok túl messzire mennének. Ennek értelmében nem jó ötlet a nagyszabású, diszruptív hatásokra várni, mielőtt megpróbálnánk korlátok közé szorítani a technológiák alkalmazásait, az új európai szabályozás kialakítása pedig nagy lehetőség a civil társadalom számára is, hogy befolyással legyen az események alakulására.