A ChatGPT és más MI-rendszerek általában hihető válaszokat adnak a kérdésekre, de azok valójában sokszor tartalmaznak pontatlan, elfogult vagy eleve a mesterséges intelligencia fabrikált, légből kapott információt. A torzítás és a hallucinációak nevezett süketelés makacs problémát jelent a modellek működésében, és a következmények is egyre súlyosabbak lehetnek, ahogy a technológia egyre több területen jelenik meg a gyógyszerfejlesztéstől egészen az önvezető autók irányításáig.

Erre próbál megoldást találni a Massachusetts Institute of Technology (MIT) egyik spin-out cége, a Themis AI, melynek Capsa néven fejlesztett platformja segít számszerűsíteni a modellek bizonytalanságát és korrigálni azok kimeneteit, mielőtt nagyobb problémákat okoznának. Az MIT hét eleji közleménye szerint a bármilyen gépi tanuló modellel összekapcsolható rendszer úgy módosítja azok működését, hogy képesek legyenek észlelni az adatfeldolgozásban a kétértelműséget, a hiányosságot vagy az elfogultságot jelző mintákat. A céget 2021-ben alapította két korábbi munkatársával Daniela Rus, az MIT professzora, és azóta telekommunikációs, olaj- és gázipari vállalatok MI-alkalmazásainak segítettek saját hibáik előrejelzésében.

Minden más dolog a megbízhatóságon múlik

A Capsa az MIT cikke szerint olyan korábbi munkáikra épül, mint a Toyotánál egy gépi tanuláson alapuló autonóm vezetési megoldás megbízhatóságának tanulmányozása, vagy egy olyan algoritmus kifejlesztése, ami képes felismerni a faji és nemi alapú elfogultságot az arcfelismerő rendszerekben, automatikusan átsúlyozva a modellek betanításánál használt adatokat, azonosítva a nem reprezentatív részeket. Sikerült azt is bizonyítaniuk, hogy ez a megközeltés hasznos lehet a gyógyszeripari vállalatok MI-modelljeinél is az összetett, nehezen értelmezhetők kimenetek kezelésében és a gyógyszerjelölt készítmények tulajdonságainak előrejelzésében.

A Themis AI technológiai vezetője szerint sok vállalatnál érdeklődnek ugyan az adataikon alapuló nagy nyelvi modellek (LLM-ek) iránt, de aggódnak a technológia megbízhatósága miatt. A megbízhatatlan kimenetek megjelölése ezért minden lehetséges felhasználási területen fontos lehet, például már olyan félvezetőgyártó cégekkel is tárgyalnak, amelyek a csipjeikre épülő, cloud környezeten kívül is működő MI-megoldásokat fejlezstenek. Ezek általában olyan kisebb modellek, amelyek telefonokon vagy beágyazott rendszereken működnek, és nem túl pontosak a szervereken futó változatokhoz képest, de a Capsa révén minőségi kompromisszumok nélkül biztosíthatnak alacsony késleltetést és hatékony peremhálózati feldolgozást.

Ez egy olyan jövőt vetít előre, amikor a peremhálózati eszközök végezhetik el a munka legnagyobb részét, és csak akkor továbbítják a feladatokat a központi szerverekre, ha bizonytalanok a kimeneteikben. Az egyes MI-technológiákról szólva a Themis AI kiemeli az érvelési folyamatok irányítását és a megbízható érvelési láncok azonosítását is a számítási igények csökkentése mellett, ez pedig összességében hozzásegíthet ahhoz az LLM-élményhez, mi szerintük feltétele lenne a mesterséges intelligenciában rejlő potenciál kihasználásának.

Részletek az MIT oldalán »

a kép forrása: Themis AI @YouTube