A mesterséges intelligencia elterjedése az igazságszolgáltatási rendszerben egyértelmű veszélyt jelent az emberi jogokra és a polgári szabadságjogokra – állapította meg az Egyesült Királyság felsőházi bel- és igazságügyi bizottsága egy március végén kiadott jelentésében. Ebben kiemelik a gyors ütemű MI-fejlesztéseket, amelyek nagyrészt a nyilvánosság látókörén kívül zajlanak, és riasztónak nevezik, hogy a hangsúly az új technológiák mielőbbi gyártásba küldésén van, figyelmen kívül hagyva azok lehetséges negatív hatásainak vizsgálatát.

A bizottság elnöke szerint erős benyomást szereztek arról, hogy az új eszközök felhasználásában nem kérdőjelezik meg az általuk generált eredmények igazolhatóságát, vagyis az az alapállás, hogy a számítógépnek mindig szükségszerűen igaza van. Ehhez képest a kormánynak ismét át kellenek vennie az irányítást az olyan, egyértelmű elveket rögzítő törvénykezésen keresztül, amelyik alapot adna a részletesebb szabályozáshoz is.

A jelentés szerint a termék- és szolgáltatásminőségi védjegyek alkalmazására, illetve a releváns eszközökben használt algoritmusok nyilvántartására is szükség lenne a technológiaába vetett bizalom megőrzéséhez. A bizottság szerint a mesterséges intelligencia üdvözlendő előnyöket nyújthat az igazságszolgáltatási rendszernek, de csak a megfelelő felügyelet mellett: a végső döntéseket mindenképpen az embereknek kell meghozniuk, akiknek azt is tudniuk kell, hogyan kérdőjelezzék meg az MI-eszközök kimeneti eredményeit.

Érthető döntések és emberi felülvizsgálat

A problémát jelentős részben segíthetne kezelni az Explainable AI (XAI) koncepció, amelynek lényege, hogy a mesterséges intelligenciát képessé kell tenni az emberek számára is érthető indoklásra, más szóval a kontextuális érvelésre. Megfelelő biztosítékok nélkül ugyanis a fejlett technológia az emberi jogokat, a tárgyalások igazságosságát is alááshatja, súlyosbítva az egyenlőtlenségeket és gyengítve a jogállamiságot. Ezek hiányában idővel akár úgy ítélhetnének el és börtönözhetnének be embereket, hogy azok nem érthetik meg az oda vezető döntéshozatali folyamatot, és a döntést sem tudják megtámadni.

Eközben a bizottság szerint az igazságszolgáltatási rendszerben is egyértelmű elszámoltathatóságot kell biztosítani, ami kormányzati reformot feltételez. A jelentésben megjegyzik, hogy már több mint harminc állami szerv, kezdeményezés és program játszik valamilyen szerepet az új technológiák irányításában a jogalkalmazás területén, így a szóban forgó reformok nélkül nehéz lesz azonosítani a felelősséget a tisztázatlan szerepek és az egymást átfedő funkciók miatt.

Az MI szabályozását egyébként már kormányzati prioritásként kezelik az Egyesült Királyságban. A britek az ilyen irányú magántőke-befektetéseket nézve a harmadik helyen állnak az Egyesült Államok és Kína mögött, és a technológia nem csak az emberek munkájára és megélhetésére van egyre nagyobb hatással, de az ország a szabályozás területén is nemzetközi vezető szerepre pályázik. A másik oldalon sokat hallani például a brit szakszervezeti szövetség követeléseiről, amelyek szerint ugyancsak törvényi garanciákra lenne szükség a gépi döntések emberi felülvizsgálatának lehetőségeiben.