Tévedni emberi dolog. A Microsoftnál például abban tévedtek, hogy gond nélkül ki lehet rúgni több tucat hírszerkesztőt, mert a mesterséges intelligencia simán összeválogatja a kurrens anyagokat a cég különböző felületein (Microsoft News, MSN.com, Edge böngésző) feltűnő cikkajánlókhoz.

Többszörös harakiri

Alig telt el azonban pár nap, és az MI felügyelte válogatás rögtön produkált egy több szempontból is kellemetlen bakit. A gépi intelligencia érdemesnek tartotta a The Independent anyagát reflektorfénybe hozni, amely arról szól, hogy a Little Mix elnevezésű lánybanda egyik, arab felmenőkkel is rendelkező tagjának milyen nehéz volt az iskolában a helyzete a származása miatt. Csakhogy Redmond szoftvere nem a brit lap címlapfotóján szereplő Jade Thirlwall képét adta hozzá a cikkajánlójához, hanem egy másikat, amin történetesen a zenekar másik, szintén színesbőrű tagja, Leigh-Anne Pinnock látható.

Ez már önmagában is elég kellemetlen ügy lenne, hiszen az Egyesült Államokban zajló tüntetéssorozatok különös aktualitást adnak a témának, miközben a mesterséges intelligencia előítéletességének problematikája már évek óta ismert jelenség. A dolgot azonban simán tudták fokozni a Microsoftnál. Egy idő után ugyanis az MI elkezdte lelkesen beválogatni hírajánlójába a saját fiaskójáról szóló cikkeket. Ez ugyan dícséretes őszinteséget tükröz, ám a gép döntését gyorsan felülbírálták, és szorgos (emberi) kezek igyekezték kigyomlálni az anyagok közül a cégre nem túl jó fényt vető híreket.

Nem a gép tévedett (vagy legalábbis nem úgy)

A Microsoft a témával kapcsolatos sajtómegkeresésekre reagálva közölte, hogy nincs itt semmi látnivaló, hiszen a kellemetlenség oka nem valamilyen rendszerszintű MI-hiba, hanem egy épp tesztelés alatt álló új funkció volt. Utóbbit pont azért kezdték fejleszteni, hogy az algoritmus ne automatikusan a szemlézni kívánt anyag eredeti főképével illusztrálja a cikket hírajánlójában, hanem keressen más lehetőségeket is. Ebben az esetben pedig a gép elég szerencsétlen módon a The Independent anyagában szintén szereplő, másik énekesnő képét találta megfelelőbbnek.

A hivatalos reakció szerint, amint észlelték a hibát, javították az inkriminált cikk megjelenítését, illetőleg párhuzamosan kikapcsolták az alternatív képkeresésre ösztönző funkciót. Érdekes módon a cég szóvivője nem reagált érdemben azokra a kérdésekre, amelyek az ajánlóból eltűnő, Microsoftra nézve kínos cikkek témáját firtatták.

Volt is, lesz is

A gépi intelligencia éles bevetése valamilyen összetettebb folyamatban láthatóan még most is nagyon kényes terület. Nem csoda, hogy a fejlesztések korábbi szakaszában rendszeresen belefutottak a fejlesztők kisebb-nagyobb fiaskókba. Kínában például pár éve a párt irányvonalába nem illő kijelentések miatt kellett újrakalibrálni bizonyos algoritmusokat. A Microsoft a maga részéről az ártatlan technológiai és szociológiai kísérletnek indult Tay csetrobottal tette le a névjegyét. A mesterséges intelligenciával felruházott "tinédzsert" ugyanis órákon belül Hitler-szimpatizáns, nőket és általában bárkit gyűlölő szörnyeteggé alakította az internet tréfás népe.