A generatív algoritmusok működése kapcsán két probléma szokott nagy rendszerességgel felmerülni. Az egyik, hogy a modell teljesen légből kapott, kitalált dolgokat tálal tényként (hallucináció), a másik pedig a gép válaszain, döntésein tetten érhető elfogultság. Egy nemrégiben publikált kutatási anyag ez utóbbira hoz újabb példát.

A két amerikai és egy szingapúri egyetem szakembereiből verbuválódott kutatótrió konkrétan azt vizsgálta, hogy milyen torzulások figyelhetők meg az olyan nagy nyelvi modelleknél (LLM), amelyeknek az a feladata, hogy megszűrjék az egy-egy állásra jelentkező aspiránsokat azok beadott anyagai alapján.

Kiderült, hogy "az LLM-ek következetesen előnyben részesítik a saját maguk által generált önéletrajzokat az emberek által írtakkal vagy alternatív modellekkel készítettekkel szemben", miközben a tartalom minősége ezt egyáltalán nem indokolná. Tehát ha a HR osztályon az OpenAI GPT-4o modellje fut automatikus szűrőként, akkor mindenki jobban teszi, ha ugyanezzel a modellel készíti el saját önéletrajzát és motivációs levelét.

A kísérletben közel 2250 ember által készített anyagot dolgoztattak fel egy csokor különböző MI-modellel, de az algoritmusoknak értékelniük kellett a saját maguk által előállított tartalmakat is. A kutatók leginkább az emberek által írt önéletrajzoknál figyeltek meg erős részrehajlást. A vizsgált modellek önpreferencia rátája 68 és 88 százalék közötti magas sávban mozgott.

A munkaerőpiacra gyakorolt konkrét hatások felméréséhez a csapat kéttucatnyi foglalkozással szimulált reálisnak tekinthető felvételi folyamatokat. Ezek alapján azok a jelöltek, akik ugyanazt az LLM-et használják, mint az értékelő, 23–60 százalékkal jobb eséllyel kerültek be a szűkített listára, mint az ugyanolyan képzettségű, ember által írt önéletrajzzal jelentkező pályázók. A jelenség leginkább az olyan üzleti területeken volt erős, mint amilyen az értékesítés és a könyvelés.

Nem szándékos, de nem is jó

Jane Yi Jiang, a tanulmány egyik társszerzője a The Registernek azt nyilatkozta, hogy ugyan az eredmények alapján arra lehet következtetni, hogy az MI-modellek a saját maguk által gyártott kimenetelekhez hasonló anyagokat preferálnak, "ez nem feltétlenül jelenti azt, hogy a rendszerek jogi vagy szándékos értelemben »diszkriminálnak«".

Ettől függetlenül a méltányosság kapcsán minimum fontos kérdések vethetők fel, a kutatóknak pedig javaslataik is vannak annak érdekében, hogy ezek az anomáliák tompíthatók legyenek az olyan fontos, emberi karriereket befolyásoló folyamatoknál, mint amilyen az állásjelentkezők rostálása.

Az egyik lehetőség, hogy az algoritmusokat arra kondícionálják, hogy hagyják figyelmen kívül az eredettel kapcsolatos információkat és kizárólag a tartalomra koncentráljanak. Egy másik kézenfekvő, de a folyamatot bonyolító és drágító megoldás az lehet, hogy több különböző LLM-mel értékeltetik ki a mezőnyt, így az összesítésben gyengül az önpreferencia hatása. Ezekkel a módszerekkel a vizsgált modellek esetében átlagosan több mint 60 százalékkal sikerült csökkenteni a gép kontra ember típusú részrehajlási rátát.