A múlt héten indult, de máris elérhetetlen a Meta Galactica AI projektje, amely tudományos dolgozatok elkészítését támogatta volna, de a felhasználók segítségével pillanatok alatt viccet csinált magából.

A Meta (Facebook) alig három nap után függesztette fel a hozzáférést a Galactica AI nevű MI-rendszer november 15-én közzétett demójához. A Galactica egy olyan nagy nyelvi modell (large language model, LLM), amelyet állítólag közel 50 millió tudományos cikk feldolgozásával tanítottak be a hasonló szövegek előállítására, de a gyakorlatban csak formailag hihetően hangzó, valójában azonban értelmetlen, esetenként kifejezetten légből kapott írományokat készített.

Miután a szakértők és a mezei közösségimédia-felhasználók kísérlezgetése során a Galactica egy sor kitalált butaságot állított elő az űrbe küldött szovjet medvéről vagy arról, hogy a jelenlegi orosz-ukrán háború valójában az ukrán hadsereg februári támadásával indult. A Meta vezető mesterségesintelligencia-tudósa, Yann LeCun egy sértődött Twitter-üzenetben jelentette be a demó leállítását arra hivatkozva, hogy a rendszert sokan visszaélésszerűen használják.

Bár a modell távlati lehetőségeit sokan elismerik, a kritikusok szerint a projekt gyors leállítása egyenértékű annak beismerésével, hogy a szoftverrobotbot tényleg túl korán tárták a nyilvánosság elé. LeCun egy nappal korábban még olyan cikkekről és új, érdekes tudományos tartalomról posztolt, amelyek szerzői a Galacticát használják fel azok megírására, de hamar kiderült, hogy a modell nem csak megbízhatatlan, hanem hajlamos "kitalálni" bizonyos dolgokat.

Ez így nem is fog összejönni?

A dolog megítélésén nyilván nem segített, hogy a Meta képiselője rögtön a felhasználókat kezdte ekézni, amiért viccet csinálnak a nagyszerű eszközéből. Ebben azonban nem volt túl nehéz dolguk: a Galactica észszerű bemeneti szövegekre is az igazság és a nonszensz véletlenszerű keverékét köpte ki, miközben LeCun nemrég azzal harangozta be a demót, hogy "gépeletek be egy szöveget, és ez létrehoz egy dolgozatot a vonatkozó hivatkozásokkal, képletekkel, mindennel."

A Futurism.com beszámolója mindezzel kapcsolatban Gary Marcus idegtudóst és mesterségesintelligencia-szakértőt idézi, aki a rendszer kimeneteit eygyszerűen baromságnak nevezte, és megjegyezte, hogy a Galactica az OpenAI GPT-3 szöveggenerátorának nyomdokain halad, amelyik képes ugyan nyelvtanilag helyes szövegek előállítására, de az más kérdés, hogy a szövegeknek mennyi értelmük van. A projekt ennyiben teljesen tükrözi a kortárs MI-alkalmazások egyik furcsaságát.

Marcus szerint az olyan nagy nyelvi modellek, mint a GPT-3 és a Galactica, a porcelánboltba tévedt bikákhoz hasonlítanak: nagyon erősek, de ugyanolyan meggondolatlanok, ez pedig az alkamazási területüket tekintve jelentősen megnöveli a félretájékoztatás által okozott kihívásokat is. Mások arra hívják fel a figyelmet, hogy az LLM-ek gyakorlatilag adatbázisként való használata kudarcra van ítélve, miközben kognitív motorként vagy feladatok koordinálására sokkal alkalmasabbak.

Cloud & big data

Vért, verítéket és könnyeket ígér az év

A Gartner szerint a tavalyi súlyos mínuszok után túl sok jó idén sem vár a személyi infokommunikációs piac legfontosabb termékeire.
 
Az 5G-vel indul be igazán a precíziós mezőgazdaság forradalma. Ebben nagy az egyetértés a mezőgazdasági és a távközlési szakemberek között.

a melléklet támogatója a Yettel

Létezik egy ortodox irányzat, mely szerint a jelszavak legyenek minél hosszabbak és összetettebbek, valamint cseréljük azokat minél gyakrabban. Valóban ettől lesznek a rendszereink biztonságosabbak? Pfeiffer Szilárd (Balasys) írása.

Miért ne becsüljük le a kisbetűs jelszavakat? 2. rész

Miért ne becsüljük le a kisbetűs jelszavakat? 3. rész

A felmérésekből egyre inkább kiderül, hogy az alkalmazottak megtartása vagy távozása sokszor azon múlik, amit a szervezetük nem csinál, nem pedig azon, amiben egymásra licitál a többi munkáltatóval.

Ezért fontos számszerűsíteni a biztonsági kockázatokat

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2023 Bitport.hu Média Kft. Minden jog fenntartva.