A sokkolókat és rendőrségi testkamerákat is gyártó Axon két évvel ezelőtt már sokaknál kiverte a biztosítékot, amikor nyilvánosságra hozta elképzeléseit egy emberi felügyelet és a mesterséges intelligencia ellenőrzése mellett is működtethető, taserekkel felszerelt drónrendszerről a szaporodó iskolai lövöldözések kapcsán. Bár hamar kiderült, hogy a dolog nem valósítható meg olyan formában, mint ahogy azt az Axon vezetősége elképzelte, a cég etikai testületében a tagok többsége benyújtotta a lemondását, miután észrevételeiket egyszerűen lesöpörték az asztalról.

A társaságnál azonban a jelek szerint nem fogytak ki az ötleteléshez szedett varázsszerekből, és bejelentették Draft One nevű új terméküket, amely lényegében a mesterséges intelligencia segtségével generálna rendőrségi jelentéseket a testkamerák hangfelvételei alapján. Ahogy a Forbes riportjából is kiderül, az Axon újabb megoldása az előzőhöz hasonló ostobaságnak tűnik: azon túl, hogy az MI közel sem tévedhetetlen, még a hallucinációra is hajlamos, és konkrét esetek igazolják, hogy a hatóságoknak mennyire nem lenne szabad támaszkodniuk rá a komoly ügyekben.

Szerintük minden oké lesz

A lap az Electronic Frontier Foundation képviselőjét idézi, aki szerint az Axon megoldása "egyfajta rémálom" – már csak azért is, mert a rendőrségtől nem várható el speciális szakértelem az MI problémáinak felismerésében. Az Axon azt állítja, hogy az OpenAI GPT-4 nagy nyelvi modelljén (LLM) alapuló termék a felére csökkentheti a rendőrök jelentések készítésével töltött idejét, amiből így több jutna a rendfenntartó szolgálatra. Az LLM-ek azonban gyakran kamuznak, rosszul foglalják össze az információt, vagy újra leképezik a faji elfogultságot a betanításukra használt adatkészletek torzításai miatt.

Az Axon állítja, hogy úgy módosította az OpenAI modelljét, amire a legegyszerűbb úgy gondolni, mint a kreativitás kikapcsolására. A társaság szerint ez drámaian csökkenti a hallucinációk és a hibák számát, és minden, amit a mesterséges intelligencia előállít, az kizárólag a felvételek átiratán alapul. Kérdés persze, hogy a "drámai csökkenés" mennyire értelmezhető egy olyan alkalmazásban, ahol egyetlen hiba is eggyel több a megengedhetőnél, és miért kellene elfogadni olyan eszközöket, amelyek deklarált módon képesek hibázni a rendészeti felhasználásban.

Részletek a Forbes cikkében »