"A mesterséges a biztos, az intelligencia nem..." A Fujitsu EMEIA technológiai vezérigazgató-helyettese, Réger József összegezte lapunknak ezzel a bonmot-val a mesterséges intelligenciával (MI) kapcsolatos véleményét 2017-ben. Azóta sok víz lefolyt a Dunán, és óriási jelentőségű fejlesztéseknek lehettünk tanúi. Az MI külső segítség nélkül lett a világ legjobb gojátékosa, az Open AI természetes nyelvi algoritmusát, a GPT-3-at csodálja a világ, sőt Kínában már építettek egy annál is hatékonyabb MI-t, amit egyetemre is beírattak... Ezek a spéci kirakatprojektek.

A hétköznapi valóság azonban az, amit a neves magyar származású szakember négy éve megfogalmazott: a mesterséges a biztos... Bár ez újra és újra bebizonyosodik, egyre többször dönt sorsunkról gép – rosszul.

Danke for the interview

A MIT Techology Review közelmúltban közzétett kísérlete ismét rávilágított, hogy valós körülmények között mennyire gyengén teljesítenek ezek az algoritmusok. A lap letesztelt két állásinterjúkhoz fejlesztett szoftvert, a MyInterview-t és a Curious Thinget, és kiderült: a legalapvetőbb kritériumoknak sem felelnek meg.

A teszthez létrehoztak egy elképzelt nyitott pozíciót, beállították az ideális jelölt tulajdonságait (képességek, tapasztalat, személyiségjegyek stb.), majd az egyik tesztelő jelentkezett a pozícióra. Először rendesen végigcsinálta az interjúkat, majd egy újabb alkalommal jöttek a trükkök, például az interjúkat úgy fejezte be, hogy hangosan felolvasott egy német nyelvű Wikipédia-szócikket.

A MyInterview, amely a videointerjú során elemzi a jelölt verbális készségét és testbeszédét az alkalmasság megállapításához, 73 százalékos értékelést adott, azaz a "jelölt" ilyen mértékben felelt meg a "munkaadó" ideáljának. Az interjú átiratából derült ki, hogy angolnak értelmezte a német nyelvű szöveget, aminek így természetesen semmi értelme sem volt. A MyInterview szóvivője mindezt azzal magyarázta, hogy az algoritmus az interjúalany intonációjából következtetett a személyiségjegyekre, és nem a válaszok tartalmából. Ez még akkor is minimum érdekes állítás, ha tudjuk, hogy általánosan felértékelődtek a softskillek. A lapnak egy pszichológus azt mondta, a hanghordozásból következtetni személyiségjegyekre enyhén szólva sem megbízható, és etikátlan.

A Curious Thing telefonos interjút készített. A tesztelő úgy szerzett 6 pontot a lehetséges 9-ből az angol nyelvtudására, hogy az interjú során végig németül válaszolt a kérdésekre. A cég társalapítója "ügyesen" kivágta magát a kínos helyzetből: ez volt az első alkalom, hogy német nyelven tesztelték a rendszerüket, így értékes adatokhoz jutottak, amit majd felhasználnak a fejlesztéshez.

Mégis egyre többen használják

A MIT Technology Review-nak egy 2019-es felmérés adta az ötletet, mely szerint világszerte már a vállalatok 40 százaléka MI-t használ a jelöltek előszűrésére annak ellenére, hogy az algoritmusokról rendre kiderül: valójában alkalmatlanok a feladatra.

A Bayerischer Rundfunk például külön oldalon demonstrálta, hogy már a ruhakiegészítők (szemüveg, kendő) vagy a háttér (képek, könyvespolc stb.) is drámaian megváltoztatták egy német videointerjú-platform automatizált értékelését. De olyan rendszerekről is kiderült, hogy előítéletesek, melyeknél hangsúlyozottan figyeltek erre a problémára. A LinkedIn pl. 2018-ban azért cserélte le jelöltajánló algoritmusát, mert az előnyben részesítette a férfi jelentkezőket.

Egyelőre csak különféle kerülőutak vannak az algoritmusok gyengeségeinek ellensúlyozására. Két New York-i egyetem és a Twitter egy közelmúltban publikált tanulmánya például egy mátrix alkalmazását javasolja az intonációt és a mimikát figyelő szoftverek automatikus értékelésének ellensúlyozására.

A problémára megoldást találni elég fontos lenne, már csak a felvételiztető szoftverek elterjedtsége miatt is. Jelen szintjükön ugyanis több kárt okoznak, mint amennyi hasznot hoznak. A munkáltatónak azért, mert rossz jelölteket javasolnak, miközben a megfelelő embert rossznak minősítik. Ez már az a szint, amikor az MI beleszól a hétköznapi életünkbe, hívja fel a figyelmet blogjában a neves MI-kutató, Andrew Ng. Mindez az MI-fejlesztőkre is visszahat, mert rossz hírét kelti a technológiának.