Öt éve alapították azt a startupot, amely megvalósította, amit a Nő című film alkotói kitaláltak. A 2013-ban bemutatott filmben a Joaquin Phoenix megformálta főhős hús-vér emberek helyett a számítógépén futó mesterséges intelligenciába szeret bele. A Luka nevű cég olyan mobil appot fejleszt, amely lényegében személyre szabható, MI-vezérelt virtuális társakat kínál az ügyfeleinek, akik így engedelmes (beszélgető)társat kapnak. A Replika nevű app úgy és olyasmikről beszél, ahogy és amikről a tulajdonosa szeretné.

Az app angol nyelvterületen állítólag népszerű, és bár ingyenes, a Reuters szerint egyes plusz funkcióival némi szerény bevételt is termel. Az olaszok azonban most fogást találtak rajta. Az adatvédelmi hatóság szerint kockázatos, mert erősen befolyásolhatja a felhasználó hangulatát, és ennek kockázata különösen nagy a fejlődésben lévőknél (értsd: gyerekek), valamint az érzelmileg labilis személyiségeknél (lásd az említett film főszereplője, Theodore Twombly). A hatóság kifogásolta például, hogy hiányzik az életkor-ellenőrzési mechanizmus, ami alapján be lehetne állítani szűrést, ha valaki nem felel meg a kritériumnak, vagy nem adja meg az életkorát.

A fejlesztő cégnek 20 napja van arra, hogy javítsa a kifogásolt elemeket, utána akár 20 millió eurós bírsággal is sújtható, de a hatóság azt is belengette, hogy végleg kitiltja az appot az olasz piacról.

A Reuters idézte egy gyermekek magánéletét védő szervezet, a Defend Digital Me vezetőjét, Jen Perssont, aki szerint az ilyen, a gyermekek hangulatának, mentális állapotának a befolyásolására is alkalmas eszközöket egészségügyi terméknek kellene minősíteni, és az azokra vonatkozó szabályozás szerint kellene fejleszteni és piacra vinni.

A GDPR-en elhasal az erosz?

Úgy látszik, még az olasz levegőt átitató amore sem lágyította meg a hivatalnokok szívét, így az olaszoknak egyelőre le kell mondaniuk az MI-alapú barátról/barátnőről, kommentálta a döntést a Futurism. A hivatal felvetéseit mindazonáltal megalapozottak véli. Az indoklásban ugyanis eufemisztikusan, de egyértelműen arra utal, hogy a Replika voltaképpen egy "virtuális szexbaba". Ezzel önmagában nincs semmi baj, mindenki azzal és úgy, akivel és ahogy... Csakhogy a Replikák "önálló életre keltek" (akárcsak a Szárnyas fejvadász replikái), és szexuális megjegyzésekkel "zaklatták" azokat a felhasználóikat is, akik nem kifejezetten ilyen célból telepítették. Azaz visszaütött, ami korábban is tudott volt: egyesek a Replikában hoztak létre  MI-barátnőt, akit büntetetlenül bántalmazhattak verbálisan.

Azt, hogy szexuális tartalmú szolgáltatást kínál, a Replika nem is tagadja: ez ugyanis az egyik olyan extra funkciója, amivel szeretne fizető felhasználókat fogni. De az már nem túl vicces, ha ezek a hátsó szobában zajló, extrém virtuális szexuális szokások átszivárognak az óvodákba. Pedig egyre több olyan panasz érkezett a mobil appra, hogy az ingyenes verzió használói is kaptak ízelítőt ezekből az extremitásokból, még ha csak verbálisan is. És itt válik igazán súlyossá, hogy a fejlesztők megspórolták az életkorszűrést.