Az alaszkai bírósági rendszerben egy olyan úttörőnek mondott, generatív MI-vel működő chatbot bevezetésére készülnek, ami az ottani lakosoknak segítene eligazodni a hagyatéki eljárásokkal kapcsolatos dokumentumok és eljárások útvesztőjében. Az Alaska Virtual Assistant (AVA) néven futó program beindítása eredetileg egy három hónapos projekt lett volna, mégis már tizenöt hónapja húzódik, és január végén lesz esedékes, ha sikerül tartani az időközben alaposan lebutított útitervet. Ahogy a fejlesztésben részt vevő egyik tanácsadó az NBC News riportjában fogalmazott, a csúszás "a kellő gondosságnak köszönhető", kiderült ugyanis, hogy a mesterséges intelligencia pontatlan vagy félrevezető működése nem javít az igazságszolgáltatáshoz való hozzáférésen, hanem éppenséggel tovább ronthatja az addigi helyzetet.

Az egyedi MI-megoldás megtervezése a cikk szerint ismét rávilágít azokra a nehézségekre, amelyekkel az amerikai (vagy feltehetően bármilyen más) kormányzati szervei szembesülnek, amikor nagy teljesítményű mesterségesintelligencia-rendszereket próbálnak olyan valós problémákra alkalmazni, ahol a pontosság és a megbízhatóság alapvető követelmény lenne. Az AVA adminisztratív vezetője szerint ezt "nagyon nehéz megvalósítani ezzel a technológiával". Miközben más rendszerek esetében nem feltétlenül törekednek a tökéletességre, különben soha nem tudnák bevezetni azokat, itt nem működik a közzétételt követő fejlesztgetés és tanulás: a kormányzati alkalmazások esetében különösen fontos a megbízhatóság, a hitelesség vagy az emberi felügyelet szerepével kapcsolatos kérdések tisztázása.

Különféle problémák Alaszkában

Az NBC News emlékeztet rá, hogy számos kormányzati szerv kísérletezik MI-alapú eszközökkel olyan felhasználási esetekben, mint mondjuk a jogosítványok igénylésének vagy a lakhatási támogatásoknak a feldolgozása, de a hatékonyság növelését vagy a jobb szolgáltatásokat célzó programok során komoly akadályokba ütköznek. A cikkben a Deloitte nemrég kiadott jelentését idézik, amelynek értelmében a helyi önkormányzati szakemberek kevesebb mint 6 százaléka részesíti előnyben a mesterséges intelligenciát mint a vonatkozó szolgáltatások működtetésének eszközét, ami ezen a területen is rávilágít az elképesztő összegű MI-befektetések és a technológia korlátozott alkalmazása közötti ellentmondásokra. Az AVA esetében is az emberi facilitátorok szerepének másolása lenne a cél, de ezt nem egyszerű megvalósítani.

A rendszer fejlesztői számos kritikus döntést és szempontot emeltek ki, köztük az MI viselkedését is: egyes modellek ugyanis elég jók a szabályok követésében, míg mások inkább azt igyekeznek bizonyítani, hogy "ők a legokosabbak a környéken". Ez egy jogi alkalmazás esetében nyilván nem kívánatos, de mégis egy "okos" chatbotra van szükség, ami képes egyszerűen és érthetően válaszolni a feltett kérdésekre. Olyan témák esetében, mint az említett hagyatéki eljárások, a robotoknak azok a tulajdonságai is problémássá válhatnak, amelyeket amúgy mindenki üdvözölne más felhasználásokban: a folyamatos részvétnyilvánításokat például el is távolították, miután a felhasználói teszt során mindenkinek elege lett az MI sajnálkozásából. A felszínességen túl ott van ráadásul a hallucináció is, ami súlyos kihívás volt az AVA fejlesztésében.

Emberekkel még mindig olcsóbb?

A mesterségesintelligencia-rendszerekre hagyományosan jellemző, hogy kimeneteikben magabiztosan osztanak meg eltúlzott vagy teljesen hamis információt, ez pedig még akkor is gondot okozhat, amikor a chatbotnak nem kellene semmit sem használnia a tényleges tudásbázisán kívül. A beszámoló szerint volt olyan eset, amikor egy alaszkai jogi egyetemhez irányította a felhasználókat, miközben Alaszkában egyáltalán nem működik ilyen intézmény. Bár a hallucinációk mérséklésére egyre-másra jönnek ki az új megoldások, és lehetséges a több rétegű, ugyancsak MI-alapú ellenőrzés is az eredmények pontosítására, az AVA esetében megint kiderült, hogy ezt sokszor bonyolult és költséges lenne az elvárt szinten megvalósítani. Az eredetileg 91 kérdéses tesztektől itt is eljutottak egy mindössze 16 kérdésből álló, "finomított" listához.

A fejlesztők szerint a mesterségesintelligencia-rendszerek újabb és újabb kiadásai a használati díjak látványos csökkenéséhez vezetnek majd, amit az ilyen eszközök egyik fő előnyének tekintenek a korlátozott bírósági költségvetésekre való tekintettel. Az alkalmazásokat működtető, folyamatosan változó és fejlődő rendszerek (mint az OpenAI GPT modellcsaládja) miatt azonban az adminisztratív munkatársaknak folyamatosan figyelniük kell az AVA viselkedését vagy pontosságát érintő változásokat is. Mint kiderült, a január végi indulásának érdekében "kicsit megváltoztatták" a projekt eredeti céljait, és a modellek későbbi frissítéseitől várják azok megvalósítását: a program vezetője szerint "nagyon munkaigényes" dologról van szó, és a generatív MI-t övező hatalmas felhajtás ellenére "elég nagy kihívás" realizálni a beígért előnyöket.

Részletek az NBC News oldalán »