Miután közel egy évet töltött börtönben, a 65 éves chicagói Michael Williams pert indított a város ellen azzal az indokkal, hogy a ShotSpotter nevű, ellentmondásos MI-rendszer használata vezetett a gyakorlatilag bizonyítékok nélküli letartóztatásához egy halálos áldozattal járó lövöldözés kapcsán. Az Associated Press beszámolója szerint Williams, illetve az őt képviselő MacArthur Project jogvédő szervezet azt állítja a szövetségi keresetben, hogy a hatóságok vakon bíztak a technológiában, ez pedig nemcsak az ő indokolatlan letartóztatáshoz és fogvatartásához vezetett, de végül azt is megakadályozta, hogy a rendőrség más nyomokat kövessen az ügyben.

A történetről tavaly ősszel mi is részletesebben beszámoltunk. A lényeg, hogy ShotSpotter több amerikai nagyvárosban is üzemeltet hangfelismerést végző szenzoros hálózatokat, amelyek elvileg kiszűrik a lövéseket a városi zajok közül, ezzel is hatékonyabbá téve a rendőrségi riasztásokat. Mint kiderült, ebben az esetben a lövésként azonosított hang egy jóval távolabb elsütött tüzijáték durranása volt, amit a bejövő adatok alapján a cég munkatársai hibásan rossz helyre és rossz besorolással jelöltek meg. Az ügyészeknek viszont ennyi is elég volt a vádemeléshez, jóllehet a nyomozók sem szemtanúkat, sem értelmezhető motivumot nem tártak fel.

A 97 százalék az nem 100 százalék

A MacArthur Project 2021-es jelentése szerint a ShotSpotter riasztásainak 89 százalékát nem támasztották alá helyszíni bizonyítékok, míg a Vice riportja ugyanabban az évben a program elfogult működéséről és egy 13 éves gyerek haláláról is beszámolt, akit a chicagói rendőrök a ShotSpotter riasztásra reagálva lőttek le. Az AP most arról tudósít, hogy ha Williams és a jogvédők megnyernék a pert, akkor Chicagóban le kellene állítan a ShotSpotter minden tevékenységet. Tekintettel arra, hogy a város tavaly újította meg 33 millió dollár értékű szerződését a technológiai céggel, az eset fordulópontot jelenthet a mesterséges intelligenciával támogatott rendfenntartó gyakorlatok elterjedésében.

A szakértők ma már nagyjából egyetértenek benne, hogy az MI-nek a jelenlegi fejlettségi szintjén csak támogatnia lenne érdemes az emberi döntéshozatalt, nem pedig helyettesítenie – különösen, hogy mennyire hajlamosak vagyunk akár a legjobb meggyőződésünk ellenére is elfogadni a gépek döntéseit. A ShotSpotter egyébként cáfolta mind a pontatlanságra, mind a faji elfogultságra vonatkozó állításokat, és "97 százalékos összesített pontosságról" beszél a valós idejű észleléseknél a lövöldözésekre vonatkozó historikus adatok felhasználásával. Ettől függetlenül a vádak akkor igen súlyosak vele szemben, ha az általa generált riasztások egyetlen ártatlan embert is börtönbe juttattak, és egyetlen fegyvertelen gyerek halálához is hozzájárultak.