Az Axon alapító vezérigazgatója állítólag az utóbbi időben ismét felszaporodó iskolai lövöldözések nyomán kezdett gondolkodni rajta, hogyan vállalata mivel járulhatna hozzá a túlságosan is rendszeres esetek visszaszorításához. Szerinte a hagyományos módszerektől nem várható érdemi változás, hiszen minden ilyen lövöldözés beindítja a szokásos civakodást a fegyvertörvények szigorításáról, majd a meddő vitákat követően minden marad a régiben. Így nemrégiben nyilvánosságra is hozta elképzelését egy távolról működtetett, nem halálos sokkolókal (Taser) felszerelt drónrendszer fejlesztéséről, amitől röviden szólva azt várja, hogy a meglévő eljárásoknál hatékonyabb, gyorsabb, humánusabb és etikusabb megoldást jelenthet az ártatlan emberek védelmére.

A drónrendszer javaslata természetesen nagy feltűnést keltett. A Fususszal közösen szállított megoldás valós idejű visszacsatolással működne, lehetővé téve például a biztonsági kamerák élő videófolyamának megosztását az első beavatkozókkal (first responder), függetlenül attól, hogy milyen biztonsági kamerákról van szó. A hálózat egyszerre működne emberi felügyelet és a mesterséges intelligencia ellenőrzése mellett, a tervek szerint pánikgombokkal és egyéb helyi kommunikációs eszközökkel észlelve és azonosítva a fenyegetést akár még a lövések előtt, jelentősen javítva a gyakran botrányos reakcióidőt és a helyzetfelismerő képességeket.

A dolog megvalósítása természetesen sokkal bonyolultabb lenne a gyakorlatban, kezdve mindjárt az MI ilyen irányú alkalmazásának etikai vonatkozásaival. Az Axon illetékes bizottságának tagjai között volt, aki már a legelején őrültségnek nevezte az egészet, felhívva rá a figyelmet, hogy a drónok nem röpködhetnek keresztül a zárt ajtókon, minden tanterembe pedig mégsem lehet sokkolóval felszerelt robotokat telepíteni Amerika-szerte. Az etikai bizottság 8-4 arányban azt javasolta, hogy a kísérletezés helyett térjenek ét egy olyan koncepcióra, amelyben az eszközöket csak olyan helyzetekben alkalmaznák, ha azzal megelőzhetik a kiérkező rendőrök fegyverhasználatát, és ezáltal menthetnek vele életeket.

Ez így nem fog működni

A bizottság tagjainak néhány napja kiadott közleménye szerint megértették, hogy a cég javaslataik ellenére is az eredeti formában gondolkodik, ezért lefektették, hogy milyen típusú ellenőrzésekre lesz szükség a vonatkozó kísérletek felelősségteljes elvégzéséhez, emellett belekezdett egy nyilvános jelentést elkészítésébe az Axon javaslatairól és saját tanácskozásainkról. A cég vezetése azonban felülbírálta az etikai testületet, és elképzeléseit attól függetlenül hozta nyilvánosságra, így nem sokkal később a bizottság 12 tagjából 9 fő be is nyújtotta a lemondását.

A tagok a közleményben kijelentik, hogyan határozottan kiálltak az Axon szerepvállalása ellen a valós idejű, állandó felügyeleti képességek biztosításában, amelyek szerintük vitán felül ártalmasak lennének a színes bőrű közösségekre és mindazokra nézve, akiket amúgy is túlzott felügyeltnek vetnek alá. A bizottság elismeri, hogy az elmúlt években sikerült jobb belátásra bírniuk a céget az arcfelismerő programok alkalmazásával vagy a közösségi médiából történő adatgyűjtéssel kapcsolatban, de azt is hozzáteszik, hogy a közelmúltban számos alkalommal el is utasították a tanácsaikat. Bár a lövöldözések elleni küzdelem jelentőségét ők is elismerik, a távozó tagok szerint amellett nem lehet elmenni, hogy az Axon megszegte kötelezettségvállalását, amelynek értelmében konzultálnia kell legalább a saját MI-etikai bizottságával.

Hasonló bizottságok egyébként egyre több helyen, sőt a nagy technológiai cégek szinte mindegyikénél működnek. Április végén mi is idéztük az IBM vezérigazgatóját, aki arról beszélt, hogy az MI-alapú üzleti transzformációhoz meg kell oldani a vele összefüggő etikai problémákat, hogy a múlt hibáinak újbóli elkövetésével ne teremtsük szörnyeteget. Ma már alapvetés, hogy a méltányosság például mást jelent a különböző embercsoportok értelmezésében, nem beszélve a technológiai, társadalomtudományi vagy jogi értelmezések különbségéről. Sokan úgy látják, hogy ebben a tekintetben már komoly válság tapasztalható a mesterséges intelligencia területén, az Axon legújabb döntései pedig egészen biztos, hogy nem adnak okot túl sok optimizmusra.