A sokkolókat és rendőrségi testkamerákat is gyártó Axon két évvel ezelőtt már sokaknál kiverte a biztosítékot, amikor nyilvánosságra hozta elképzeléseit egy emberi felügyelet és a mesterséges intelligencia ellenőrzése mellett is működtethető, taserekkel felszerelt drónrendszerről a szaporodó iskolai lövöldözések kapcsán. Bár hamar kiderült, hogy a dolog nem valósítható meg olyan formában, mint ahogy azt az Axon vezetősége elképzelte, a cég etikai testületében a tagok többsége benyújtotta a lemondását, miután észrevételeiket egyszerűen lesöpörték az asztalról.
A társaságnál azonban a jelek szerint nem fogytak ki az ötleteléshez szedett varázsszerekből, és bejelentették Draft One nevű új terméküket, amely lényegében a mesterséges intelligencia segtségével generálna rendőrségi jelentéseket a testkamerák hangfelvételei alapján. Ahogy a Forbes riportjából is kiderül, az Axon újabb megoldása az előzőhöz hasonló ostobaságnak tűnik: azon túl, hogy az MI közel sem tévedhetetlen, még a hallucinációra is hajlamos, és konkrét esetek igazolják, hogy a hatóságoknak mennyire nem lenne szabad támaszkodniuk rá a komoly ügyekben.
Szerintük minden oké lesz
A lap az Electronic Frontier Foundation képviselőjét idézi, aki szerint az Axon megoldása "egyfajta rémálom" – már csak azért is, mert a rendőrségtől nem várható el speciális szakértelem az MI problémáinak felismerésében. Az Axon azt állítja, hogy az OpenAI GPT-4 nagy nyelvi modelljén (LLM) alapuló termék a felére csökkentheti a rendőrök jelentések készítésével töltött idejét, amiből így több jutna a rendfenntartó szolgálatra. Az LLM-ek azonban gyakran kamuznak, rosszul foglalják össze az információt, vagy újra leképezik a faji elfogultságot a betanításukra használt adatkészletek torzításai miatt.
Az Axon állítja, hogy úgy módosította az OpenAI modelljét, amire a legegyszerűbb úgy gondolni, mint a kreativitás kikapcsolására. A társaság szerint ez drámaian csökkenti a hallucinációk és a hibák számát, és minden, amit a mesterséges intelligencia előállít, az kizárólag a felvételek átiratán alapul. Kérdés persze, hogy a "drámai csökkenés" mennyire értelmezhető egy olyan alkalmazásban, ahol egyetlen hiba is eggyel több a megengedhetőnél, és miért kellene elfogadni olyan eszközöket, amelyek deklarált módon képesek hibázni a rendészeti felhasználásban.
a melléklet támogatója az EURO ONE
HPE Morpheus VM Essentials: a virtualizáció arany középútja
Minden, amire valóban szükség van, ügyfélbarát licenceléssel és HPE támogatással - a virtualizációs feladatok teljes életciklusát végigkíséri az EURO ONE Számítástástechnikai Zrt.
CIO kutatás
Merre tart a vállalati IT és annak irányítója?
Hiánypótló nagykép a hazai nagyvállalati informatikáról és az IT-vezetőkről: skillek, felelősségek, feladatkörök a múltban, a jelenben és a jövőben.
Töltse ki Ön is, hogy tisztábban lássa, hogyan építse vállalata IT-ját és saját karrierjét!
Az eredményeket május 8-án ismertetjük a 17. CIO Hungary konferencián.
Projektek O-gyűrűje. Mit tanulhat egy projektvezető a Challenger tragédiájából?