A sokkolókat és rendőrségi testkamerákat is gyártó Axon két évvel ezelőtt már sokaknál kiverte a biztosítékot, amikor nyilvánosságra hozta elképzeléseit egy emberi felügyelet és a mesterséges intelligencia ellenőrzése mellett is működtethető, taserekkel felszerelt drónrendszerről a szaporodó iskolai lövöldözések kapcsán. Bár hamar kiderült, hogy a dolog nem valósítható meg olyan formában, mint ahogy azt az Axon vezetősége elképzelte, a cég etikai testületében a tagok többsége benyújtotta a lemondását, miután észrevételeiket egyszerűen lesöpörték az asztalról.
A társaságnál azonban a jelek szerint nem fogytak ki az ötleteléshez szedett varázsszerekből, és bejelentették Draft One nevű új terméküket, amely lényegében a mesterséges intelligencia segtségével generálna rendőrségi jelentéseket a testkamerák hangfelvételei alapján. Ahogy a Forbes riportjából is kiderül, az Axon újabb megoldása az előzőhöz hasonló ostobaságnak tűnik: azon túl, hogy az MI közel sem tévedhetetlen, még a hallucinációra is hajlamos, és konkrét esetek igazolják, hogy a hatóságoknak mennyire nem lenne szabad támaszkodniuk rá a komoly ügyekben.
Szerintük minden oké lesz
A lap az Electronic Frontier Foundation képviselőjét idézi, aki szerint az Axon megoldása "egyfajta rémálom" – már csak azért is, mert a rendőrségtől nem várható el speciális szakértelem az MI problémáinak felismerésében. Az Axon azt állítja, hogy az OpenAI GPT-4 nagy nyelvi modelljén (LLM) alapuló termék a felére csökkentheti a rendőrök jelentések készítésével töltött idejét, amiből így több jutna a rendfenntartó szolgálatra. Az LLM-ek azonban gyakran kamuznak, rosszul foglalják össze az információt, vagy újra leképezik a faji elfogultságot a betanításukra használt adatkészletek torzításai miatt.
Az Axon állítja, hogy úgy módosította az OpenAI modelljét, amire a legegyszerűbb úgy gondolni, mint a kreativitás kikapcsolására. A társaság szerint ez drámaian csökkenti a hallucinációk és a hibák számát, és minden, amit a mesterséges intelligencia előállít, az kizárólag a felvételek átiratán alapul. Kérdés persze, hogy a "drámai csökkenés" mennyire értelmezhető egy olyan alkalmazásban, ahol egyetlen hiba is eggyel több a megengedhetőnél, és miért kellene elfogadni olyan eszközöket, amelyek deklarált módon képesek hibázni a rendészeti felhasználásban.
Digitalizáció a mindennapokban: hogyan lesz a stratégiai célból napi működés?
A digitális transzformáció sok vállalatnál már nem cél, hanem elvárás – mégis gyakran megreked a tervezőasztalon. A vezetői szinten megfogalmazott ambiciózus tervek nehezen fordulnak át napi működéssé, ha hiányzik a technológiai rugalmasság vagy a belső kohézió.
a melléklet támogatója a One Solutions
CIO KUTATÁS
AZ IRÁNYÍTÁS VISSZASZERZÉSE
Valóban egyre nagyobb lehet az IT és az IT-vezető súlya a vállalatokon belül? A nemzetközi mérések szerint igen, de mi a helyzet Magyarországon?
Segítsen megtalálni a választ! Töltse ki a Budapesti Corvinus Egyetem és a Bitport anonim kutatását, és kérje meg erre üzleti oldalon dolgozó vezetőtársait is!
Az eredményeket május 8-9-én ismertetjük a 16. CIO Hungary konferencián.
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak