Egy 65 éves chicagói férfi 11 hónapot ült előzetes letartóztatásban, miután az ügyészség egy fegyverlövések kiszűrésére szakosodott cég jelentése alapján vád alá helyezte. Az Assosiated Press részletes riportjából kiderül, miért érdemes nagyon óvatosan kezelni a mesterséges intelligencia által elénk tárt információkat.

Stoppolásból rémálom

Michael Williams története tavaly májusban kezdődött, amikor egyik este autójával cigarettát indult venni. Egy környéken lakó fiatalember, Safarian Herring leintette, Williams pedig felvette az ismerős figurát. Nem sokkal később egy autó ért melléjük, majd az egyik utas rálőtt Herringre. A sérültet Williams egyből kórházba vitte, ám ott sem tudtak rajta segíteni, és belehalt a fejlövésbe. A hatóságok elkövetőként az idős férfit vették őrizetbe. 

A technológia itt lép be a sztoriba azzal, hogy a gyilkosság vádját egyetlen "komoly" bizonyítékra alapozták az ügyészek: a ShotSpotter jelentésére. Ez a vállalat több amerikai nagyvárosban üzemeltet hangfelismerést végző szenzoros hálózatot. Ezek célja a lövések kiszűrése a városi zajok közül, ami elvben segítheti a rendőrség munkáját azzal, hogy a lehető leghamarabb riasztás érkezik hozzájuk.

A gépi tanulással támogatott megfigyelő rendszer azon a májusi éjszakán egy pisztolylövést azonosított egy olyan kereszteződésben, ahol Williams autója a térfigyelő kamerák tanúsága szerint éppen áthajtott. Annak ellenére, hogy sem szemtanúkat, sem értelmezhető motivumot nem sikerült a nyomozóknak felkutatni az ügyben, a ShotSpotter információi alapján megindult a gyilkossági per Williams ellen.

A kirendelt ügyvédek azonban - rácáfolva a filmekben jellemzően megjelenő motívummal - jól végezték a dolgukat, és megkérdőjelezték a bizonyíték hitelességét. Ennek végül az lett az eredménye, hogy az ügyészség visszavonta az anyagot, ezzel együtt pedig a vádat is. Williams úr pedig 11 hónap után ismét a saját ágyában aludhatott. Mint kiderült, a lövésként azonosított hang egy jóval távolabb elsütött tüzijáték durranása volt, amit a gép adatai alapján a cég munkatársai hibásan rossz helyre és rossz besorolással jelöltek meg.

Attól, hogy gép, nem tévedhetetlen

Bár a közvélekedésben erősen gyökerezik az algoritmusok tévedhetetlenségének mítosza, az egyre több helyen bevetett mesterséges intelligencia sorra szállítja a kínos eseteket. Az egészségügyi felhasználástól kezdve a pénzügyi elemzéseken át egészen az autonóm fegyverrendszerekig bezárólag számtalan helyen felmerültek már kérdőjelek azzal kapcsolatban, mennyire lehet megbízni a gép által szolgáltatott adatokban.

Egy a témában jártas szakértő szerint a technológiai problémák mellett komoly etikai kérdéseket is meg kell válaszolnunk akkor, amikor korábban emberek által végzett feladatokat algoritmusokra és robotokra bízunk. Andrew Ng azt javasolja, hogy a mesterséges intelligencia helyett az intelligencia kiterjesztésére (intelligence augmentation) összpontosítsunk. Azaz a jelenlegi fejlettségi szinten az MI-nek segítőnek kellene lennie, és nem az ember helyettesítőjének.