Az IBM vezérigazgatója az amerikai kongresszushoz intézett levelében közölte, hogy a vállalat a továbbiakban nem fejleszt arcfelismerő- és elemző szoftvereket, és nem is értékesít ilyen termékeket az alkalmazásprogramozási felületeken vagy bármely más megjelenésükben. Arvind Krishna hétfői bejelentésének értelmében a társaság ellenzi az ilyen technológiák alkalmazását a tömeges megfigyelésben, a faji alapú profilozásban és az emberi jogokat sértő más tevékenységekben, a levél pedig olyan szövetségi szintű szabályozás megalkotását sürgeti, amely a jelenleginél sokkal elszámoltathatóbbá teszi a rendőrséget is a nem megfelelő felhasználások tekintetében.

Arról egyelőre nincs szó, hogy az IBM pontosan hogyan és mikor vezeti ki a piacról a szóban forgó termékeket, de a céget április óta irányító Krishna társadalmi párbeszédet kezdeményez az arcfelismerő rendszerek alkalmazásának módjáról a rendfenntartásért felelős amerikai szerveknél – felvetve azt a kérdést is, hogy egyáltalán szükség van-e ilyesmire. A levél arra az országszerte zajló tiltakozási hullámra reagál, amelynek egyik célja a rendőrségi testületek reformja egy letartóztatott fekete férfi meggyilkolása nyomán.

A nyilatkozatban az IBM vezérigazgatója arról is ír, hogy a technológia alkalmas az átláthatóság növelésére és a közösségek védelmének biztosítására is, de ennek az a feltétele, hogy ne legyen belőle a diszkrimináció vagy a faji megkülönböztetés eszköze. A különböző szintű kormányzatok képviselői már az Egyesült Államok-szerte megfogalmazták ígéreteiket és javaslataikat a bűnüldöző szervezetek munkájának fokozott ellenőrzésére, és a technológiai cégek közül is sokan támogatják a tüntetők követeléseit, az IBM-hez hasonló lépésre azonban még senki sem szánta el magát.

Elébe mentek a felháborodásnak

Az igazsághoz persze az is hozzátartozik, hogy az IBM arcfelismerő rendszerekből származó bevételei nem túl jelentősek a vállalat teljes forgalmához viszonyítva, így könnyebb helyzetben volt, mint azok a cégek, amelyek komolyabban számolnak ezzel a területtel, esetleg az ilyen technológiák forgalmazása jelenti az alaptevékenységüket. Az IBM azonban akármilyen könnyedén heveri ki az arcfelismerő szoftverek kivezetésének veszteségeit, mégiscsak egy olyan szállítóról van szó, amelynek egyik legnagyobb ügyfele az amerikai kormányzat.

A bennfentes forrásokra hivatkozó beszámolók ugyanakkor azt is világossá teszik, hogy az IBM gazdasági és etikai megfontolásokra épülő döntést hozott, ami reflektált a társaság alkalmazottainak álláspontjára is. Ez utóbbi azért érdekes, mert az elmúlt időszakban számos technológiai vállalatnál okoztak házon belül is kisebb-nagyobb felzúdulást az olyan szerződések vagy gyakorlatok, amelyeket a dolgozók erkölcsileg aggályosnak tartottak. Ezek között a Google, a Microsoft vagy az Amazon is belefutott már olyan állami projektekbe, amelyek belső ellenállásba ütköztek.

Az arcfelismerő rendszerek területén éppen az Amazon járt hasonlóképpen, azonban ott a vezetőség a részvényesek döntésére bízta, hogy szerződjön-e állami ügynökségekkel – a befektetők pedig, nem meglepő módon, 97,6 százalékos többséggel támogatták az ilyen üzleteket. Az IBM vezérigazgatója ehhez képest arról ír a tegnapi levélben, hogy a mesterséges intelligencia gyártóinak és felhasználóinak közös a felelőssége az MI-rendszerek tesztelésében, és abban is, hogy a rendszerek működésének torzulásait auditálják és bejelentsék.