A múlt héten indult, de máris elérhetetlen a Meta Galactica AI projektje, amely tudományos dolgozatok elkészítését támogatta volna, de a felhasználók segítségével pillanatok alatt viccet csinált magából.

A Meta (Facebook) alig három nap után függesztette fel a hozzáférést a Galactica AI nevű MI-rendszer november 15-én közzétett demójához. A Galactica egy olyan nagy nyelvi modell (large language model, LLM), amelyet állítólag közel 50 millió tudományos cikk feldolgozásával tanítottak be a hasonló szövegek előállítására, de a gyakorlatban csak formailag hihetően hangzó, valójában azonban értelmetlen, esetenként kifejezetten légből kapott írományokat készített.

Miután a szakértők és a mezei közösségimédia-felhasználók kísérlezgetése során a Galactica egy sor kitalált butaságot állított elő az űrbe küldött szovjet medvéről vagy arról, hogy a jelenlegi orosz-ukrán háború valójában az ukrán hadsereg februári támadásával indult. A Meta vezető mesterségesintelligencia-tudósa, Yann LeCun egy sértődött Twitter-üzenetben jelentette be a demó leállítását arra hivatkozva, hogy a rendszert sokan visszaélésszerűen használják.

Bár a modell távlati lehetőségeit sokan elismerik, a kritikusok szerint a projekt gyors leállítása egyenértékű annak beismerésével, hogy a szoftverrobotbot tényleg túl korán tárták a nyilvánosság elé. LeCun egy nappal korábban még olyan cikkekről és új, érdekes tudományos tartalomról posztolt, amelyek szerzői a Galacticát használják fel azok megírására, de hamar kiderült, hogy a modell nem csak megbízhatatlan, hanem hajlamos "kitalálni" bizonyos dolgokat.

Ez így nem is fog összejönni?

A dolog megítélésén nyilván nem segített, hogy a Meta képiselője rögtön a felhasználókat kezdte ekézni, amiért viccet csinálnak a nagyszerű eszközéből. Ebben azonban nem volt túl nehéz dolguk: a Galactica észszerű bemeneti szövegekre is az igazság és a nonszensz véletlenszerű keverékét köpte ki, miközben LeCun nemrég azzal harangozta be a demót, hogy "gépeletek be egy szöveget, és ez létrehoz egy dolgozatot a vonatkozó hivatkozásokkal, képletekkel, mindennel."

A Futurism.com beszámolója mindezzel kapcsolatban Gary Marcus idegtudóst és mesterségesintelligencia-szakértőt idézi, aki a rendszer kimeneteit eygyszerűen baromságnak nevezte, és megjegyezte, hogy a Galactica az OpenAI GPT-3 szöveggenerátorának nyomdokain halad, amelyik képes ugyan nyelvtanilag helyes szövegek előállítására, de az más kérdés, hogy a szövegeknek mennyi értelmük van. A projekt ennyiben teljesen tükrözi a kortárs MI-alkalmazások egyik furcsaságát.

Marcus szerint az olyan nagy nyelvi modellek, mint a GPT-3 és a Galactica, a porcelánboltba tévedt bikákhoz hasonlítanak: nagyon erősek, de ugyanolyan meggondolatlanok, ez pedig az alkamazási területüket tekintve jelentősen megnöveli a félretájékoztatás által okozott kihívásokat is. Mások arra hívják fel a figyelmet, hogy az LLM-ek gyakorlatilag adatbázisként való használata kudarcra van ítélve, miközben kognitív motorként vagy feladatok koordinálására sokkal alkalmasabbak.

Cloud & big data

Az Apple is kénytelen volt feladni a teljes önvezetésről szóló terveit

Nem csak a saját márkás járművek megjelenésének a céldátumát tolták odébb, de a Bloomberg szerint azt is elengedték, hogy belátható időn belül megvalósítsák a legmagasabb szintű autonómiát.
 
Hirdetés

Innováció az integrációban

Interjú a mobilitás app integráció szakértő e6 Integrations ügyvezetőivel.

Bár az 5G-s beruházások megtérülését biztosító alkalmazási területeket még a szolgáltatók és az ügyfelek is keresik, a fejlesztési kényszer megvan, mert aki ebből kimarad, lemarad.

a melléklet támogatója a Yettel

A felmérésekből egyre inkább kiderül, hogy az alkalmazottak megtartása vagy távozása sokszor azon múlik, amit a szervezetük nem csinál, nem pedig azon, amiben egymásra licitál a többi munkáltatóval.

Ezért fontos számszerűsíteni a biztonsági kockázatokat

Az EU Tanácsa szerint összeegyeztethető a backdoor és a biztonság. Az ötlet alapjaiban hibás. Pfeiffer Szilárd fejlesztő, IT-biztonsági szakértő írása.
Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizenegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2022 Bitport.hu Média Kft. Minden jog fenntartva.