Sárkány ellen sárkányfű - gondolta egy tudóscsapat, és betanított egy algoritmust arra, hogy kiszúrja a generatív mesterséges intelligenciával gyártott kamu tudományos cikkeket.

Ahogy tavaly év végén széles körben elérhetővé vált az OpenAI ChatGPT-je, szinte azonnal feltűntek az első példák arra, milyen módokon lehet az emberi nyelvezethez hasonlatos szövegeket pillanatok alatt elkészítő algoritmust nemtelen célokra használni. Az egyik leginkább érintett terület az oktatás és a tudományos világ volt. New Yorkban például már idén januárban kitiltották a ChatGPT-t, több nagy tudományos kiadó pedig szabályzatának módosításával igyekezett visszagyömöszölni a szellemet a palackba.

Ahogy azonban a generatív MI fejlődik, úgy válik egyre nehezebbé a gép által készített szövegek felismerése, a jelenleg elérhető detektáló szoftverek pedig nem képesek nagy pontossággal dolgozni. Szerencsére a mesterséges intelligencia a másik oldalon is bevethető, amire egy frissen publikált kutatási projekt szolgál bizonyítékkal.  

A Kansasi Egyetem munkatársai a tudományos folyóíratokban megjelenő publikációkra fókuszálva igyekeztek olyan rendszert alkotni, amely megbízható módon szűri ki az algoritmus kreálta tartalmakat. A kutatást vezető Heather Desaire professzor szerint a generatív MI által írt szövegek (egyelőre) több olyan sajátossággal rendelkeznek, amelyek mentén el lehet választani a búzát a pelyvától. Megjelenésük a tudományos szcénában ugyanakkor konkrét veszélyeket hordoz, mivel a sok forrásból összetákolt anyagoknál kimarad az ellenőrzési lépés, azaz könnyen bekerülhet téves, pontatlan vagy tudományosan nem igazolt megállapítás.

Tüzet oltanak tűzzel

A kutatócsapat az értékelést végző algoritmus betanításához első körben kiválasztott 64 számos tudományágból származó, valódi emberek által írt publikációt. Ezekből kiindulva aztán megkérték a ChatGPT-t, hogy generáljon ugyanezeket a kutatásokat leíró anyagokat, amiből végül 128 darab hamis cikk kerekedett. Ezután a szakemberek a saját algoritmusuk teszteléséhez további két adathalmazt állítottak össze, amelyek mindegyike 30 valódi publikációt és 60 ChatGPT által írt cikket tartalmazott.

Az első eredmények rögtön látványos sikert hoztak. Az osztályozást végző MI az esetek 100 százalékában képes volt megkülönböztetni az emberektől származó valódi tudományos írásokat az AI által generált cikkektől. Ha csak egy-egy bekezdést kapott feladatul a program, akkor a pontosságá némileg csökkent, de még így is 92 százalékos hatékonysággal volt képes felismerni a gépi alkotásokat.

A jó eredményeket a kutatók annak tulajdonítják, hogy rendszerük nagy figyelmet fordít a tudományos élet képviselőire jellemző stílusjegyekre. A tudósok jellemzően gazdagabb szókinccsel rendelkező, hosszabb és változatosabb szavakat tartalmazó bekezdéseket írnak, mint amire a ChatGPT képes. Az is árulkodó, hogy emberek a gépnél sokkal gyakrabban használnak írásjeleket (kérdőjeleket, zárójeleket, pontosvesszőket). Az algoritmus hajlamos a slendriánságra is: nem ad háttérinformációt a közölt számokról, továbbá az emberekhez képest sokkal ritkábban említi más tudósok nevét.

Azt ugyanakkor a kutatás vezetője is elismerte, hogy most publikált eredményeik csak egy proof-of-concept tanulmánynak tekinthetők, mivel a munka hatóköre korlátozott volt, és további vizsgálatokra van szükség ahhoz, hogy kikristályosodjon, mennyire használható mindez a gyakorlatban is.

Cloud & big data

Teljes kudarcnak tűnik a fegyvereket kereső MI bevetése a New York-i metróban

Rengeteg hamis riasztást és nulla találatot produkált New Yorkban az a kísérleti program, amelynek során mesterséges intelligenciával próbálták kiszűrni a fegyvert hordó utasokat a város metrórendszerében.
 
Hirdetés

Rendszerek és emberek: a CIO választásai egy új magyar felmérés tükrében

"Nehéz informatikusnak lenni egy olyan cégben, ahol sok az IT-s" – jegyezte meg egy egészségügyi technológiákat fejlesztő cég informatikai vezetője, amikor megkérdeztük, milyennek látja házon belül az IT és a többi osztály közötti kommunikációt.

Ezt már akkor sokan állították, amikor a Watson vagy a DeepMind még legfeljebb érdekes játék volt, mert jó volt kvízben, sakkban vagy góban.

a melléklet támogatója a Clico Hungary

Hirdetés

Így lehet sok önálló kiberbiztonsági eszközéből egy erősebbet csinálni

A kulcsszó a platform. Ha egy cég jó platformot választ, akkor az egyes eszközök előnyei nem kioltják, hanem erősítik egymást, és még az üzemeltetés is olcsóbb lesz.

Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.