A múlt héten indult, de máris elérhetetlen a Meta Galactica AI projektje, amely tudományos dolgozatok elkészítését támogatta volna, de a felhasználók segítségével pillanatok alatt viccet csinált magából.

A Meta (Facebook) alig három nap után függesztette fel a hozzáférést a Galactica AI nevű MI-rendszer november 15-én közzétett demójához. A Galactica egy olyan nagy nyelvi modell (large language model, LLM), amelyet állítólag közel 50 millió tudományos cikk feldolgozásával tanítottak be a hasonló szövegek előállítására, de a gyakorlatban csak formailag hihetően hangzó, valójában azonban értelmetlen, esetenként kifejezetten légből kapott írományokat készített.

Miután a szakértők és a mezei közösségimédia-felhasználók kísérlezgetése során a Galactica egy sor kitalált butaságot állított elő az űrbe küldött szovjet medvéről vagy arról, hogy a jelenlegi orosz-ukrán háború valójában az ukrán hadsereg februári támadásával indult. A Meta vezető mesterségesintelligencia-tudósa, Yann LeCun egy sértődött Twitter-üzenetben jelentette be a demó leállítását arra hivatkozva, hogy a rendszert sokan visszaélésszerűen használják.

Bár a modell távlati lehetőségeit sokan elismerik, a kritikusok szerint a projekt gyors leállítása egyenértékű annak beismerésével, hogy a szoftverrobotbot tényleg túl korán tárták a nyilvánosság elé. LeCun egy nappal korábban még olyan cikkekről és új, érdekes tudományos tartalomról posztolt, amelyek szerzői a Galacticát használják fel azok megírására, de hamar kiderült, hogy a modell nem csak megbízhatatlan, hanem hajlamos "kitalálni" bizonyos dolgokat.

Ez így nem is fog összejönni?

A dolog megítélésén nyilván nem segített, hogy a Meta képiselője rögtön a felhasználókat kezdte ekézni, amiért viccet csinálnak a nagyszerű eszközéből. Ebben azonban nem volt túl nehéz dolguk: a Galactica észszerű bemeneti szövegekre is az igazság és a nonszensz véletlenszerű keverékét köpte ki, miközben LeCun nemrég azzal harangozta be a demót, hogy "gépeletek be egy szöveget, és ez létrehoz egy dolgozatot a vonatkozó hivatkozásokkal, képletekkel, mindennel."

A Futurism.com beszámolója mindezzel kapcsolatban Gary Marcus idegtudóst és mesterségesintelligencia-szakértőt idézi, aki a rendszer kimeneteit eygyszerűen baromságnak nevezte, és megjegyezte, hogy a Galactica az OpenAI GPT-3 szöveggenerátorának nyomdokain halad, amelyik képes ugyan nyelvtanilag helyes szövegek előállítására, de az más kérdés, hogy a szövegeknek mennyi értelmük van. A projekt ennyiben teljesen tükrözi a kortárs MI-alkalmazások egyik furcsaságát.

Marcus szerint az olyan nagy nyelvi modellek, mint a GPT-3 és a Galactica, a porcelánboltba tévedt bikákhoz hasonlítanak: nagyon erősek, de ugyanolyan meggondolatlanok, ez pedig az alkamazási területüket tekintve jelentősen megnöveli a félretájékoztatás által okozott kihívásokat is. Mások arra hívják fel a figyelmet, hogy az LLM-ek gyakorlatilag adatbázisként való használata kudarcra van ítélve, miközben kognitív motorként vagy feladatok koordinálására sokkal alkalmasabbak.

Cloud & big data

Angol startuppal pallérozza a Galaxy AI-t a Samsung

A dél-koreai vállalat a felvásárlástól azt reméli, hogy az eszközein futó algoritmusok a lehető legtestreszabottabb szolgáltatásokat nyújtják majd a felhasználóknak.
 
Nincs automatikus és egyszerű út a felhőnirvánába, pedig a buktatók többségét viszonylag egyszerűen el lehetne kerülni.

a melléklet támogatója a 4iG Nyrt.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.