Miután közel egy évet töltött börtönben, a 65 éves chicagói Michael Williams pert indított a város ellen azzal az indokkal, hogy a ShotSpotter nevű, ellentmondásos MI-rendszer használata vezetett a gyakorlatilag bizonyítékok nélküli letartóztatásához egy halálos áldozattal járó lövöldözés kapcsán. Az Associated Press beszámolója szerint Williams, illetve az őt képviselő MacArthur Project jogvédő szervezet azt állítja a szövetségi keresetben, hogy a hatóságok vakon bíztak a technológiában, ez pedig nemcsak az ő indokolatlan letartóztatáshoz és fogvatartásához vezetett, de végül azt is megakadályozta, hogy a rendőrség más nyomokat kövessen az ügyben.
A történetről tavaly ősszel mi is részletesebben beszámoltunk. A lényeg, hogy ShotSpotter több amerikai nagyvárosban is üzemeltet hangfelismerést végző szenzoros hálózatokat, amelyek elvileg kiszűrik a lövéseket a városi zajok közül, ezzel is hatékonyabbá téve a rendőrségi riasztásokat. Mint kiderült, ebben az esetben a lövésként azonosított hang egy jóval távolabb elsütött tüzijáték durranása volt, amit a bejövő adatok alapján a cég munkatársai hibásan rossz helyre és rossz besorolással jelöltek meg. Az ügyészeknek viszont ennyi is elég volt a vádemeléshez, jóllehet a nyomozók sem szemtanúkat, sem értelmezhető motivumot nem tártak fel.
A 97 százalék az nem 100 százalék
A MacArthur Project 2021-es jelentése szerint a ShotSpotter riasztásainak 89 százalékát nem támasztották alá helyszíni bizonyítékok, míg a Vice riportja ugyanabban az évben a program elfogult működéséről és egy 13 éves gyerek haláláról is beszámolt, akit a chicagói rendőrök a ShotSpotter riasztásra reagálva lőttek le. Az AP most arról tudósít, hogy ha Williams és a jogvédők megnyernék a pert, akkor Chicagóban le kellene állítan a ShotSpotter minden tevékenységet. Tekintettel arra, hogy a város tavaly újította meg 33 millió dollár értékű szerződését a technológiai céggel, az eset fordulópontot jelenthet a mesterséges intelligenciával támogatott rendfenntartó gyakorlatok elterjedésében.
A szakértők ma már nagyjából egyetértenek benne, hogy az MI-nek a jelenlegi fejlettségi szintjén csak támogatnia lenne érdemes az emberi döntéshozatalt, nem pedig helyettesítenie – különösen, hogy mennyire hajlamosak vagyunk akár a legjobb meggyőződésünk ellenére is elfogadni a gépek döntéseit. A ShotSpotter egyébként cáfolta mind a pontatlanságra, mind a faji elfogultságra vonatkozó állításokat, és "97 százalékos összesített pontosságról" beszél a valós idejű észleléseknél a lövöldözésekre vonatkozó historikus adatok felhasználásával. Ettől függetlenül a vádak akkor igen súlyosak vele szemben, ha az általa generált riasztások egyetlen ártatlan embert is börtönbe juttattak, és egyetlen fegyvertelen gyerek halálához is hozzájárultak.
Exkluzív szakmai nap a felhők fölött: KYOCERA Roadshow a MOL Toronyban
A jövő irodája már nem a jövő – hanem a jelen. A digitális transzformáció új korszakába lépünk, és ebben a KYOCERA nemcsak követi, hanem formálja is az irányt. Most itt a lehetőség, hogy első kézből ismerje meg a legújabb hardveres és szoftveres fejlesztéseket, amelyekkel a KYOCERA új szintre emeli a dokumentumkezelést és az üzleti hatékonyságot.
Digitalizáció a mindennapokban: hogyan lesz a stratégiai célból napi működés?
A digitális transzformáció sok vállalatnál már nem cél, hanem elvárás – mégis gyakran megreked a tervezőasztalon. A vezetői szinten megfogalmazott ambiciózus tervek nehezen fordulnak át napi működéssé, ha hiányzik a technológiai rugalmasság vagy a belső kohézió. A valódi előrelépéshez olyan infrastruktúrára, szolgáltatásokra és partneri támogatásra van szükség, amelyek nemcsak technológiai válaszokat adnak, hanem üzletileg is működőképes megoldásokat kínálnak.
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak