A Meta (Facebook) alig három nap után függesztette fel a hozzáférést a Galactica AI nevű MI-rendszer november 15-én közzétett demójához. A Galactica egy olyan nagy nyelvi modell (large language model, LLM), amelyet állítólag közel 50 millió tudományos cikk feldolgozásával tanítottak be a hasonló szövegek előállítására, de a gyakorlatban csak formailag hihetően hangzó, valójában azonban értelmetlen, esetenként kifejezetten légből kapott írományokat készített.

Miután a szakértők és a mezei közösségimédia-felhasználók kísérlezgetése során a Galactica egy sor kitalált butaságot állított elő az űrbe küldött szovjet medvéről vagy arról, hogy a jelenlegi orosz-ukrán háború valójában az ukrán hadsereg februári támadásával indult. A Meta vezető mesterségesintelligencia-tudósa, Yann LeCun egy sértődött Twitter-üzenetben jelentette be a demó leállítását arra hivatkozva, hogy a rendszert sokan visszaélésszerűen használják.

Bár a modell távlati lehetőségeit sokan elismerik, a kritikusok szerint a projekt gyors leállítása egyenértékű annak beismerésével, hogy a szoftverrobotbot tényleg túl korán tárták a nyilvánosság elé. LeCun egy nappal korábban még olyan cikkekről és új, érdekes tudományos tartalomról posztolt, amelyek szerzői a Galacticát használják fel azok megírására, de hamar kiderült, hogy a modell nem csak megbízhatatlan, hanem hajlamos "kitalálni" bizonyos dolgokat.

Ez így nem is fog összejönni?

A dolog megítélésén nyilván nem segített, hogy a Meta képiselője rögtön a felhasználókat kezdte ekézni, amiért viccet csinálnak a nagyszerű eszközéből. Ebben azonban nem volt túl nehéz dolguk: a Galactica észszerű bemeneti szövegekre is az igazság és a nonszensz véletlenszerű keverékét köpte ki, miközben LeCun nemrég azzal harangozta be a demót, hogy "gépeletek be egy szöveget, és ez létrehoz egy dolgozatot a vonatkozó hivatkozásokkal, képletekkel, mindennel."

A Futurism.com beszámolója mindezzel kapcsolatban Gary Marcus idegtudóst és mesterségesintelligencia-szakértőt idézi, aki a rendszer kimeneteit eygyszerűen baromságnak nevezte, és megjegyezte, hogy a Galactica az OpenAI GPT-3 szöveggenerátorának nyomdokain halad, amelyik képes ugyan nyelvtanilag helyes szövegek előállítására, de az más kérdés, hogy a szövegeknek mennyi értelmük van. A projekt ennyiben teljesen tükrözi a kortárs MI-alkalmazások egyik furcsaságát.

Marcus szerint az olyan nagy nyelvi modellek, mint a GPT-3 és a Galactica, a porcelánboltba tévedt bikákhoz hasonlítanak: nagyon erősek, de ugyanolyan meggondolatlanok, ez pedig az alkamazási területüket tekintve jelentősen megnöveli a félretájékoztatás által okozott kihívásokat is. Mások arra hívják fel a figyelmet, hogy az LLM-ek gyakorlatilag adatbázisként való használata kudarcra van ítélve, miközben kognitív motorként vagy feladatok koordinálására sokkal alkalmasabbak.