Az IBM vezérigazgatója szerint bár a mesterséges intelligencia a jövő, érdemes visszafogott várakozásokkal tekinteni az MI való világban történő alkalmazására. Arvind Krishna a The Wall Street Journalnak nyilatkozva úgy becsülte, hogy ennek az utazásnak jó ha a tized részét megtettük. Az eddig alkalmazott analitikai eszközök és a hagyományos adatbázisok sokkal tovább már nem képesek követni az adatmennyiség növekedését, ennek kezelésére pedig az egyetlen ismert technika a mesterséges intelligencia. Annak további átvételéhez azonban le kell győzni mindazokat az akadályokat, amelyeket a gépi tanuló modellek gyakori elfogultsága vagy a technológia igazságtalan felhasználása jelent.

Erre tekintettel az MI-alapú üzleti transzformáció szerinte csak egy jó évtized múlva lehet esedékes, és addig meg kell oldani a vele összefüggő etikai problémákat, hogy a múlt hibáinak újbóli elkövetésével ne teremtsük szörnyeteget. Krishna természetesen nagyon optimista azzal kapcsolatban, hogy ha odafigyelünk, akkor képesek leszünk megoldani ezeket a problémákat. Ehhez képest a gyakorlatban a gépi tanuló modellek méltányos működése nehezen mérhető és javítható dolognak bizonyul, már csak azért is, mert a méltányosságnak önmagában majdnem két tucat meghatározása létezik a tudományos életben.

Úgy nem könnyű, hogy az alapfogalmak sem tiszták

A The Register vonatkozó összeállításában egy filozófiaprofesszort idéz, aki szerint a méltányosság a különböző embercsoportok számára is mást jelent, és ami a számítástechnikában tisztességesnek tekinthető, az nem biztos, hogy összhangban van a társadalomtudományi vagy jogi értelmezésekkel. Ennek nyomán a mesterséges intelligencia területén már komoly válság tapasztalható, amennyiben nem rendelkezünk a megfelelő etikai képességekkel a problémák megoldására: a méltányosság jelentésében sincs megegyezés, ráadásul ami az egyik alkalmazás esetében működik, az egyáltalán nem biztos, hogy a másik alkalmazásnál is használható.

A cikk felhívja rá a figyelmet, hogy a kihívás sokkal összetetteb annál, mint hogy a fejlesztők mennyire változatos és reprezentatív adatkészletekkel tanítják be a rendszereket. Ugyanannak az algoritmusnak is lehet eltérő hatása a különböző társadalmi csoportokra, és igaz ugyan, hogy bizonyos felhasználásokban (mondjuk a pénzügyi modellek esetében) már létezik valamilyen szabályozás, de akkor sincs egyszerű mód a tisztességes működés kikényszerítésére.

Erre példa a Google Docs mesterséges intelligenciára épülő Smart Compose (okos levélírás) funkciója, amelyik elvileg a hatásosabb szövegek gyorsabb elkészítését segíti, de a Vice magazin néhány napja megjelent cikke szerint sokan találják irritálónak az általa erőltetett "inkluzív nyelvhasználatot", ami a Google Docs vállalati felhasználásában ráadásul alapértelmezett beállításként működik.