A hónap elején publikált tanulmányukban az OpenAI kutatói azt állították, hogy megtalálták az okát, miért tesznek a mesterségesintelligencia-modellek magabiztosan és tényszerűen előadott, de teljesen hamis állításokat. A hallucinációnak is nevezett jelenség, ami a legújabb és legfejlettebb modellekre ugyanúgy jellemző, a szakemberek szerint a találgatás ösztönzésével áll összefüggésben: az MI képzése során jutalmazzák a helyes válaszokat és büntetik a helytelen megoldásokat, ez pedig "természetes statisztikai nyomást" jelent a kamuzásra, hiszen ha nem jön be a dolog, még mindig ugyanott vannak, mintha egyből elismerték volna a bizonytalanságukat.

Ha ez így van, akkor az azt jelenti, hogy alapvető problémát találtak a generatív MI-rendszerek működésében. Az OpenAI kutatói szerint a dolog simán megoldható az értékelések finomhangolásával, a kommentárok azonban nemcsak a hallucináció kiiktatásának egyszerűségében kételkednek, hanem abban is, hogy az MI-iparág valóban elbírná-e az ezzel járó terheket. A The Conversation oldalán megjelent írásában a Sheffield Egyetem professzora, Wei Xing például azzal érvel, hogy a változtatás drámai költségnövekedést feltételez, másrészt a felhasználók sem lennének rá vevők, ha a csodálatos MI kinyilatkoztatások helyett csak a vállát vonogatná a kérdéseikre.

Xing magyarázata alapján léteznek ugyan bevált módszerek a bizonytalanság számszerűsítésére, de az MI-modellek ezek alkalmazásával jelentősen magasabb számítási teljesítményt igényelhetnek, mint ahogy a mostani megközelítésben működnek. A lehetséges válaszok megbízhatóságának kiértékelése így még magasabb költségekkel járna az olyan rendszereknél, amelyek naponta sok millió lekérdezést dolgoznak fel. Mivel pedig az eddigi infrastrukturális beruházások megtérülése is évek vagy évtizedek múlva várható (ha egyáltalán), a kiadások további növelése a felhasználók elidegenítésével párhuzamosan egy KO-val érne fel az ágazat szereplőinél.

Ez már nem műszaki probléma

Ez tehát nem feltétlenül járható út egy olyan helyzetben, amikor az OpenAI és más MI-fejlesztők is éppen a befektetőiket próbálják visszaaltatni a hosszú távon megvalósítható üzleti modellek ígéretével. Xing szerint ez utóbbi azért is érdekes, mert a fenti tanulmányban javasolt módszerek működhetnek a kritikus üzleti műveleteket vagy gazdasági infrastruktúrát kezelő MI-rendszerek esetében, hiszen ott a hallucinációk okozta károk messze magasabbak lehetnek a felmerülő extra kiadásoknál. Azonban a mesterséges intelligencia fejlesztését a fogyasztói alkalmazások határozzák meg, ahol a bizonytalan válaszok gyorsabb elérése jóval kevesebbe kerül a szolgáltatóknak.

Bár a piaci és technológiai változások nagyon gyorsan zajlanak, a cikk szerint abban valószínűleg nem lesz változás, hogy a találgatás sokkal gazdaságosabb és megfizethetőbb megoldás marad. Az OpenAI tanulmánya tehát a The Conversation cikke alapján akaratlanul is rávilágít arra a kellemetlen igazságra, hogy a MI-alkalmazások fejlesztésének üzleti ösztönzői alapvető ellentmondásban vannak az MI-hallucináció csökkentésével. Ugyanakkor az emberi képességeket idéző mesterséges általános intelligencia (AGI) ígérgetésével a fejlesztők olyan helyzetbe navigálták magukat, ahol már minden eredmény kudarcnak fog tűnni, ami nem állítja a feje tetejére a világot.

Ide kívánkozik, hogy a mesterséges intelligencia kutatásának egy kiemelkedő figurája, a Google DeepMind tavaly Nobel-díjjal is kitüntetett vezérigazgatója, Demis Hassabis is éppen most fogalmazott meg kritikát az OpenAI-val kapcsolatban. Amikor a vállalat augusztus elején kijött legújabb GPT-5-ös modelljével, azt ígérte, hogy ez a kiadás már egy PhD-szintű szakértő felkészültségével hajtja végre a parancsokat. A tapasztalat eddig nem éppen ezt igazolta, Hassabis pedig egy podcastben nonszensznek nevezte a versenytárs állításait. Szerinte az AGI ígéretével nem fér össze, hogy a megfelelő módon feltett kérdések nyomán az MI még a legegyszerűbb feladatokban is kudarcot vall, amivel ismét rámutatott, hogy a modellek képzése és működése mennyire nincs összhangban a velük szemben támasztott elvárásokkal.