Nem kívánt "mérföldkőhöz" ért az USA-ban az automatikus arcfelismerő rendszerek hatósági felhasználása. Megvan az első eset ugyanis, ahol egy letartóztatásba vett nőről derült ki, hogy semmi köze azokhoz a bűncselekményhez, amelyeket a gépi intelligencia szerint ő követett el.

Az esetről beszámoló New York times az ügy kárvallottját is megszólaltatta. A 32 éves Porcha Woodruff elsőnek meglehetősen viccesen fogadta, amikor nyolc hónapos terhesként ajtót nyitott annak a féltucat rendőrnek, akik rablást és autólopást emlegetve közölték, hogy le van tartóztatva. Ám a nő hiába mutatott a hasára, hogy ekkora hassal az ilyesmi nem menne könnyen, a nyomozók előállították, majd fél napon keresztül vallatták. A nő végül csak 100 ezer dolláros óvadék fejében került szabadlábra.

A vádat végül csak egy hónappal később, bizonyíték hiányában ejtette a Wayne megyei ügyész. később kiderült, hogy a rendőrség által használt automatikus arcfelismerő technológia az ismeretlen elkövető arcát Woodruff egy régi, 2015-ös fotójával azonosította - tévesen. A rendőrség azzal igyekszik menteni magát, hogy az ügy kárvallottja is Woodruff fotójára mutatott rá akkor, amikor 6 nő képét tették elé azonosítás céljából. A szemtanúk azonban ugyanannyira megbízhatatlanok, mint a "tévedhetetlen" algoritmus: hajlamosak ott is meglátni az elkövetőt, ahol nem is szerepel a választási lehetőségek között.

Árnyalatnyi problémák

Az már a ChatGPT berobbanása előtt is nyilvánvaló volt, hogy a mesterséges intelligencia működése során komoly hibákat, redszerszintű részrehajlást képes produkálni. Az algoritmusok gyakran a fejlesztők legjobb szándéka ellenére előítéletes eredményeket produkálnak, ami csak mélyítheti a társadalomban megfigyelhető faji igazságtalanságot.

Ilyen aknára futott például a Google is, amikor 2015 májusában kiadta önálló Photos (Fotók) alkalmazását, amely többek között képes volt osztályozni és címkézni a feltöltött képeken szereplő helyeket vagy személyeket. Nem sokkal később azonban egy fekete szoftvermérnök felhívta a vállalat figyelmét a Twitteren, hogy az algoritmus folyamatosan gorilláknak minősítette őt és barátait a róluk készült fotókon. A dolog látványos vitát kavart, és felmerült többek között az a kérdés is, hogy a Google milyen képállományon tanította a modellt, lehetővé téve az ilyen több mint kellemetlen hibákat. Az pedig már csak hab a tortán, hogy a világ egyik legnagyobb tehnológiai vállalatánál a jelek szerint nyolc év sem volt elég a probéma megoldására.

Mindez a mostani ügy szempontjából azért lényeges, mert Woodruff szintén fekete bőrű, mint ahogy az a másik öt személy is, akiket az elmúlt években az amerikai rendőrség algoritmusos képazonosítást követően tévesen vádolt valamilyen bűncselekmény elkövetésével. A nyolc hónapos terhes nő esete annyiban különleges, hogy a többiek mind férfiak voltak.

A kismama ügye egyébként a harmadik volt, amely a detroiti rendőrséget érinti, amely évente átlagosan 125 arcfelismerő keresést hajt végre, szinte kizárólag fekete férfiakkal szemben - derül ki egy rendőrségi beszámolóból a technológia használatáról.