Az IBM is elébe megy az egyre kiterjedtebb szabályozásról szóló trendeknek, és a részrehajló vagy elfogult működést monitorozó eszközökkel látja el a Watson OpenScale MI-platformot, amelyek alkalmasak a szexuális, etnikai, a családi állapottal vagy mondjuk az életkorral kapcsolatos torzítások automatizált azonosítására. A mesterséges intelligencia és gépi tanuló modellek működésében felfedezett visszásságok nyomán a rendszer javaslatokat is tesz a megfelelő jelenségek ellenőrzésére.

Az IBM hivatalos blogja szerint az eszközök lehetőséget adnak a felhasználóknak is, hogy editálják az ellenőrzéseket, míg az alapvető ajánlások nyomán arra sem lesz többé szükség, hogy minden egyes tulajdonságot manuálisan kelljen kijelölgetni. Elvileg az ilyen kezdeményezések menedzselése az egyik legfőbb szakmai nehézség az MI és ML telepítések során, akár az adattudósok munkájának szervezése vagy a házon belül fejlesztett és megvásárolt megoldások közti mérlegelés kapcsán.

Az IBM a Watson termékeket és szolgáltatásokat multi-cloud szemlélettel kezeli, ami az adatok előkészítését és az algoritmusok skálázását is megkönnyíti a nagyvállalati környezetekben. A rendszerek működésének torzulása viszont éppen a nagyon nagy adattömeget feldolgozó szervezeteknél jelenti a legnagyobb problémát. Egy-egy modell például működhet egyoldalúságtól vagy hátrányos megkülönböztetéstől mentesen, az algoritmusok kombinációja viszont előre nem látható jelenségekhez vezethet.

Túl sok információ az emberi feldolgozáshoz

A Watson OpenScale a blogbejegyzés alapján az egyes tulajdonságokhoz rendelt értékek beállítását is előirányozza majd, egy külön konfigurációs panelen pedig utólagosan is paraméterezhetők lesznek az ellenőrzések és a referenciaértékek. Ezek nyilván minden egyes felhasználási területen finomhangolásra szorulnak, de a gépi tanuló algoritmusok különféle alkalmazásaiban (az arcfelsimerő rendszerektől a HR szoftverekig) egyre-másra bukkannak fel a bizonyos csoportokat hátrányba hozó működési modellek, amelyeket esetenként könnyű figyelmen kívül hagyni az automatizált monitorozás hiányában.

A nagy technológiai szállítók az utóbbi időben egyre hangsúlyosabban keresik a megoldásokat ezekre a kérdésekre, ami jelenthet automatizált vizsgálatokat, célszoftvereket vagy akár szakmai és felhasználói továbbképzéseket is. A társaság mostani híradásából kiderül, hogy az IBM által néhány éve felvásárolt Promontory tanácsadó szakembereit is bevonta a szabályozási és megfelelőségi kérdések vizsgálatába, hogy a listázott szempontok ebben a tekintetben is megfeleljenek az adatkezeléssel és adatvédelemmel kapcsolatos leggyakoribb szempontoknak.

Ahogy annak idején írtuk, a  Promontory lényegében a Watson edzőjeként is működik, a bevitt információk feldolgozására készítve fel a rendszereket. Ez eredetileg a banki folyamatok compliance vizsgálatának automatizálását célozta, ahol a mesterséges intelligencia szerepét felértékeli az információmennyiség, ami korlátozottá és költségessé teszi a szakértők igénybe vételét.