Az új technológiákat hasznosító szervezetek nagy része úgy gondolja, hogy világos iránymutatásra lenne szüksége az "AI bias" és a hozzá kapcsolódó komplex problémák kezelésére.

Már most is konkrét jelei tapasztalhatók annak a jelenségnek, hogy a mesterséges intelligencia elfogult működése a sokat emlegetett társadalmi következmények mellett az üzleti vállalkozásoknak is károkat okozhat. Nem csoda, hogy az új technológiák terjedésével ezen az oldalon is egyre nagyobb igény mutatkozik a terület érdemi szabályozására, hogy mielőbb kiküszöbölhessék az ilyen jellegű problémákat – derül ki a bostoni DataRobot szoftverház jelentéséből, amely a Világgazdasági Fórummal (WEF) és egyetemi kutatókkal együttműködésben készített.

A State of AI Bias című jelentésében több mint 350 szervezet válaszait dolgozáták fel különféle iparágakban. Ebben már az is érdekes, hogy a válaszadók valamivel több mint fele, 54 százaléka tartja aggasztónak az úgynevezett az "AI bias" jelenségét, vagyis a mesterséges intelligenciára épülő, automatizált rendszerek részrehajló működésének kockázatait. Még érdekesebb azonban, hogy a társaságok elsöprő többsége, 81 százaléka fejezte ki az igényét az erőteljesebb kormányzati szabályozásra, hogy megkönnyítse az ilyen kockázatok kezelését.

Bár a mesterséges intelligencia mélyebben beágyazott felhasználása még nem számít alapvetésnek a legtöbb szervezetnél, az AI bias megjelenésére visszavezethető, konkrét károk már most is érzékelhetők. Az érintett társaságok több mint egyharmada, 36 százaléka tapasztalt ennek kapcsán kihívásokat vagy valamilyen közvetlen negatív üzleti hatást; ezen belül 62 százalék számolt be bevételkiesésről, 61 százalék ügyfélvesztésről, 43 százalék távozó alkalmazottakról, 35 százalék pedig perek vagy jogi lépések miatt felmerült költségekről.

Nem lesz egyszerű megoldani

A márka presztízsének sérülését és a negatív médiavisszhangot 6 százalék jelölte meg, ami önmagában nem tűnik magas aránynak, de itt megint csak érdemes figyelembe venni az MI-technológiák relatíve alacsony szintű adaptációját – legalábbis abban az összefüggésben, hogy milyen távlatok állnak mág a későbbi bevezetések előtt. Az elfogultság megszüntetésének fő kihívása persze annak pontos megértését feltételezi, hogy az algoritmusok miért jutottak bizonyos döntésekhez, ehhez pedig a felhasználóknak útmutatásra lenne szükségük.

Különösen úgy, hogy az ide visszavezethető problémák általában igen összetettek, és ahogy arra a szakértők felhívjk a figyelmet, a mesterséges intelligencia szabályozásában az egyoldalú vagy részrehajló működés teljes kiiktatásának ugyanolyan káros következményei lehetnek, mint az AI bias jelenségéből fakadó renszerszintű megkülönböztetésnek. Az a gépi tanuló rendszer ugyanis, amelyik nem tud általánosító következtetéseket levonni, tulajdonképpen tanulni sem képes, és a modell hatékonysága teljesen lecsökken.

A DataRobot szerint történt előrelépés ezen a területen, ide sorolható például az Európai Unió által javasolt MI-szabályozás tervezete. Ezzel együtt még nagyon sokat kell tenni annak érdekében, hogy az alkalmazott modellek tisztességesek, megbízhatók átláthatók és megmagyarázhatók legyenek. A Világgazdasági Fórum illetékesei ehhez hozzáteszik, hogy a DataRobot kutatása újra bemutatta, amit a hozzáértők már régóta látnak: az MI-megoldásokról szólva túlságosan régóta túlságosan ködös dolog, hogy hol húzódik az etikus és az etikátlan működés közti határvonal.

Lassan-lassan érik a felismerés

A szervezet mesterséges intelligenciával és a gépi tanulással foglalkozó egységének vezetője, egyben a WEF végrehajtó bizottságának tagja, Kay Firth-Butterfield viszont azt is megállapítja, hogy a felmérésben résztvevő informatikai igazgatók, informatikai igazgatók és menedzserek, adattudósok és fejlesztési vezetők egyértelműen megértik és értékelik az MI etikai kérdéseinek súlyát és hatását. Szerencsére az iparág beérésével egyre több olyan megoldás is elérhetővé válik, amelyik segíthet ellensúlyozni a mesterséges intelligencia torzulásait.

A Forrester egyik 2022-re vonatkozó előrejelzésében például azt jósolja a piackutató, hogy a "felelős MI-megoldások" piaca az idén megduplázódik az előző évihez képest. Ezek olyan képességeket kínálnak, amelyek a felhasználó vállalatoknak is segítenek a gyakorlatba ültetni az olyan alapelveket, mint amilyen az említett méltányosság és átláthatóság lenne. Az ilyen eszközök iránti érdeklődés, összhangban a DataRobot kutatásának eredményével, már túlterjed a szigorúan szabályozott iparágakon, és egyre több olyan cég fordít rájuk figyelmet, amely kritikus üzleti műveletekbe vonja be a mesterséges intelligenciát.

Cloud & big data

A falakon is átlátnak majd az izraeli katonák

Egy új fejlesztés valós időben, az alanyok mozgását is követve azonosítja az "élő objektumokat" a cementen és betonon keresztül.
 
Éltek már vissza a bankkártyaadataival? Ha nem, akkor azt nagy valószínűséggel egy csalásfelderítő rendszernek köszönheti.

a melléklet támogatója a Balasys

A Világgazdasági Fórum figyelmeztetése szerint jelentős szakadék tátong a C-szintű vezetők és az információbiztonságért felelős részlegek helyzetértékelése között.

A járvány üzleti vezetőt csinált a CIO-kból

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2022 Bitport.hu Média Kft. Minden jog fenntartva.