Ismét bebizonyosodott, hogy a mesterséges intelligenciában a mesterséges a biztos, az intelligencia már kevésbé.

"A mesterséges a biztos, az intelligencia nem..." A Fujitsu EMEIA technológiai vezérigazgató-helyettese, Réger József összegezte lapunknak ezzel a bonmot-val a mesterséges intelligenciával (MI) kapcsolatos véleményét 2017-ben. Azóta sok víz lefolyt a Dunán, és óriási jelentőségű fejlesztéseknek lehettünk tanúi. Az MI külső segítség nélkül lett a világ legjobb gojátékosa, az Open AI természetes nyelvi algoritmusát, a GPT-3-at csodálja a világ, sőt Kínában már építettek egy annál is hatékonyabb MI-t, amit egyetemre is beírattak... Ezek a spéci kirakatprojektek.

A hétköznapi valóság azonban az, amit a neves magyar származású szakember négy éve megfogalmazott: a mesterséges a biztos... Bár ez újra és újra bebizonyosodik, egyre többször dönt sorsunkról gép – rosszul.

Danke for the interview

A MIT Techology Review közelmúltban közzétett kísérlete ismét rávilágított, hogy valós körülmények között mennyire gyengén teljesítenek ezek az algoritmusok. A lap letesztelt két állásinterjúkhoz fejlesztett szoftvert, a MyInterview-t és a Curious Thinget, és kiderült: a legalapvetőbb kritériumoknak sem felelnek meg.

A teszthez létrehoztak egy elképzelt nyitott pozíciót, beállították az ideális jelölt tulajdonságait (képességek, tapasztalat, személyiségjegyek stb.), majd az egyik tesztelő jelentkezett a pozícióra. Először rendesen végigcsinálta az interjúkat, majd egy újabb alkalommal jöttek a trükkök, például az interjúkat úgy fejezte be, hogy hangosan felolvasott egy német nyelvű Wikipédia-szócikket.

A MyInterview, amely a videointerjú során elemzi a jelölt verbális készségét és testbeszédét az alkalmasság megállapításához, 73 százalékos értékelést adott, azaz a "jelölt" ilyen mértékben felelt meg a "munkaadó" ideáljának. Az interjú átiratából derült ki, hogy angolnak értelmezte a német nyelvű szöveget, aminek így természetesen semmi értelme sem volt. A MyInterview szóvivője mindezt azzal magyarázta, hogy az algoritmus az interjúalany intonációjából következtetett a személyiségjegyekre, és nem a válaszok tartalmából. Ez még akkor is minimum érdekes állítás, ha tudjuk, hogy általánosan felértékelődtek a softskillek. A lapnak egy pszichológus azt mondta, a hanghordozásból következtetni személyiségjegyekre enyhén szólva sem megbízható, és etikátlan.

A Curious Thing telefonos interjút készített. A tesztelő úgy szerzett 6 pontot a lehetséges 9-ből az angol nyelvtudására, hogy az interjú során végig németül válaszolt a kérdésekre. A cég társalapítója "ügyesen" kivágta magát a kínos helyzetből: ez volt az első alkalom, hogy német nyelven tesztelték a rendszerüket, így értékes adatokhoz jutottak, amit majd felhasználnak a fejlesztéshez.

Mégis egyre többen használják

A MIT Technology Review-nak egy 2019-es felmérés adta az ötletet, mely szerint világszerte már a vállalatok 40 százaléka MI-t használ a jelöltek előszűrésére annak ellenére, hogy az algoritmusokról rendre kiderül: valójában alkalmatlanok a feladatra.

A Bayerischer Rundfunk például külön oldalon demonstrálta, hogy már a ruhakiegészítők (szemüveg, kendő) vagy a háttér (képek, könyvespolc stb.) is drámaian megváltoztatták egy német videointerjú-platform automatizált értékelését. De olyan rendszerekről is kiderült, hogy előítéletesek, melyeknél hangsúlyozottan figyeltek erre a problémára. A LinkedIn pl. 2018-ban azért cserélte le jelöltajánló algoritmusát, mert az előnyben részesítette a férfi jelentkezőket.

Egyelőre csak különféle kerülőutak vannak az algoritmusok gyengeségeinek ellensúlyozására. Két New York-i egyetem és a Twitter egy közelmúltban publikált tanulmánya például egy mátrix alkalmazását javasolja az intonációt és a mimikát figyelő szoftverek automatikus értékelésének ellensúlyozására.

A problémára megoldást találni elég fontos lenne, már csak a felvételiztető szoftverek elterjedtsége miatt is. Jelen szintjükön ugyanis több kárt okoznak, mint amennyi hasznot hoznak. A munkáltatónak azért, mert rossz jelölteket javasolnak, miközben a megfelelő embert rossznak minősítik. Ez már az a szint, amikor az MI beleszól a hétköznapi életünkbe, hívja fel a figyelmet blogjában a neves MI-kutató, Andrew Ng. Mindez az MI-fejlesztőkre is visszahat, mert rossz hírét kelti a technológiának.

Piaci hírek

Visszafelé sült el a gépágyú: behatolástesztelő segítségével fertőz a szupervírus

A Palo Alto Networks elemzői szerint a kártevőt szinte minden vírusirtó átengedte a VirusTotal tesztjén.
 
Hiába jelennek meg százszámra tanácsok, best bractice-ek, trendek, pozitív változásokat mutató elemzések az adatvédelemről, az adatokkal kapcsolatos kockázatok továbbra sem enyhültek.

a melléklet támogatója a Tech Data

A Világgazdasági Fórum figyelmeztetése szerint jelentős szakadék tátong a C-szintű vezetők és az információbiztonságért felelős részlegek helyzetértékelése között.

A járvány üzleti vezetőt csinált a CIO-kból

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2022 Bitport.hu Média Kft. Minden jog fenntartva.