Az MI alapú megoldások használatához nem árt majd kifejleszteni azt a hatodik érzéket, hogy idejében észleljük, amikor a gép egy-egy durván rossz döntést készül meghozni. Egy friss kutatás szerint erre képesek is lehetünk majd.
Hirdetés
 

Akármilyen látványossá is vált a mesterséges intelligencia és a gépi tanuló technológiák fejlődése az elmúlt években, egy dolog nem igazán változott velük kapcsolatban. Bár a gépek napról napra eredményesebbek, és egyre több olyan feladatra válnak alkalmassá, ami korábban alig volt elképzelhető, hibázni most is ugyanúgy szoktak – értve ez alatt, hogy amikor az ijesztően pontos algoritmusok mégis hibáznak, akkor azt látványos és megmagyarázhatatlannak tűnő módon teszik, vagyis úgy tévednek, ahogy egy ember soha nem tévedne.

Ez a jelenség egyben rámutat a gépi intelligencia alkalmazásának egyik nyugtalanító aspektusára: az új megoldások célja nyilván a hatékonyság növelése, de azok, akikre az algoritmusok hatással vannak, nem igazán értik vagy érthetik a működésüket. Egy önvezető autóban ülve például nyugtalanító lehet arra gondolni, hogy ez a rendszer is bármikor hozhat egy olyan döntést, mint amikor a kutyákat magabiztosan azonosító képfelismerő szoftver hirtelen ananászként jelöli meg a sokadik kutyás fotót.

Amikor komolyra fordul az ananász

Innentől lesz érdekes az a kérdés, hogy az autonóm jármű utasa tisztában van-e mindazokkal a lehetséges körülményekkel, amelyek között a gép esetleg hajlamossá válhat a megbízhatatlan működésre. Könnyű belátni, hogy a sofőröknek érteniük kell és oda kell rá figyelniük, ha mondjuk naplementekor az önvezető autó nem kezeli százszázalékos biztonsággal a kedvezőtlen fényviszonyokat, de a radiológusnak sem árt tudnia, hogy a gépi intelligencia milyen esetekben ad nagyobb eséllyel téves diagnózist.

A lényeg minden esetben az, hogy az új technológiák használatával egy olyan intuíciós hajlamot is ki kellene fejlesztenünk magunkban, ami segít kezelni a váratlan helyzeteket. A jó hír, hogy erre képesek lehetünk: a Johns Hopkins University kutatói szerint az embereknek megvan rá a képességük, hogy öntudatlanul is felfedezzék a rendszert a gépek hibái mögött. Kísérleteikben az alanyoknak a képfelismerésre tanított konvolúciós neurális hálózatok (CNN) által a képekre aggatott címkéit kellett megjósolniuk, különös tekintettel arra, hogy amikor az algritmust átverte egy-egy fotó, mennyire sikerült előrejelezniük a tévedést.

A szakemberek szerint a vizsgálatok megmutatták, hogy az emberek intuitív módon, mégis meglepően jó eredménnyel követték a gépek logikáját, még akkor is, amikor az látszólag teljesen irracionális hibákhoz vezetett. A VentureBeat magazinnak adott telefoninterjúban az egyik kutató kifejtette, hogy a gépek sokszor már felülmúlják az embereket a képek osztályozásában is, ám amikor tévednek, az ember képes megérteni, hogy mi téveszthette meg őket.

A kísérletekben összesen 1800-an vettek részt, az alapvető feladat pedig úgy nézett ki, hogy mindenkinek ki kellett választania a fejenként kiosztott 48 fotó mellett szereplő címkék közül, amelyiket szerinte a gép a felvételhez rendelné. Ezt komplexebb feladatok is követték, amikor már képpárokhoz rendelt címkéket kellett osztályozniuk aszerint, hogy melyik lehetett a CNN-ek első és második választása. A harmadik körben már 48 címkével kellett összehasonlítani a gép feltételezett preferenciáit a saját döntésekkel, utána olyan képeket kellett értékelni, amelyek szándékosan a képfelismerő algoritmusok megtévesztésére készültek és így tovább.

A helyzet nem tűnik reménytelennek

Az egyes kísérletek részletei ebben a publikációban követhetők. A dolog érdekessége mindenesetre abba áll, hogy az embereknek erőt kellett venniük magukon, felülemelkedve mindazon, amit nyilvánvalónak tartottak, és el kellett képzelniük, hogy mi lesz az, ami a gép szemében mégsem tűnik majd nyilvánvalónak. Az eredményt a kutatók úgy foglalták össze a fenti anyagban, hogy az emberi intuíció a feltételezettnél sokkal pontosabban vezet rá azokra az esetekre, amelyekben a gépek hibás osztályozásokat fognak megadni.

Amikor bárki elkezd használni valamilyen új technológiát, az interakció sikere nem csak azon múlik, ha a megfelelő helyzetekre nézve elsajátítjuk a kezelését, hanem azzal is tisztában kell lennünk, hogy a a szóban forgó technológia mikor mond csütörtököt. Ez különösen igaz lehet egy olyan korszakban, amikor nem csak a munkaerőpiacon értékelődik fel egyre jobban az MI-alapú rendszerekhez való affinitás, de lassan a hétköznapi életben is szükségünk lesz rá.

Banális példa, hogy nem szabad csodálkozni, ha tele szájjal beszélve a hangvezérelt asszisztens nem érti vagy félreérti a parancsokat – az MI és a gépi tanuló algoritmusok azonban ennél sokkal komolyabb kihívások elé is állíthatnak majd a jövőben, így jó tudni, hogy elvileg alkalmasak leszünk a kihívások kezelésére.

Közösség & HR

SAP NOW Hungary: szerszámkészlet az ügyfelek lenyűgözéséhez

Beszámolónk a 2019-es SAP NOW Hungary konferencia első napjáról, ahol ebben az évben minden az intelligens vállalat koncepciójáról szólt.
 
EZ A HELYZET SIÓFOKON

SAP NOW Hungary:
szerszámkészlet az ügyfelek lenyűgözéséhez

Az SAP kétnapos rendezvénye az idén is követhető a Bitporton!

TOVÁBB A KÖZVETÍTÉSRE >

Ömlik a pénz a digitalizációval foglalkozó startupokba, de a rossz beidegződések még mindig lassítják az átalakulást.

a melléklet támogatója az Aruba Cloud

Hirdetés

Nagyvállalati mesterséges intelligencia (MI) megoldások a Lenovótól

Elkezdődött a mesterséges intelligencia hajtotta gazdasági átalakulás. Az összetett technológia könnyű használatba vételét, rugalmas bővítését ígérik a Lenovo adatközponti megoldásai.

A VISZ éves INFOHajó rendezvényén az agilitás nagyvállalati alkalmazhatósága és tanulhatósága volt az egyik kerekasztal témája. Az ott elhangzottakat gondolta tovább Both András (Idomsoft), a kerekasztal egyik résztvevője.

Ez a nyolc technológia alakítja át a gyártást

a Bitport
a Vezető Informatikusok Szövetségének
médiapartnere

Az Oracle átáll a féléves verzió-életciklusra, és megszünteti az ingyenes támogatást üzleti felhasználóknak. Mire kell felkészülni? Dr. Hegedüs Tamás licencelési tanácsadó (IPR-Insights Hungary) írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthetően, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport kilencedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2019 Bitport.hu Média Kft. Minden jog fenntartva.