Az angliai Plymouth Marjon Egyetem (PMU) munkatársai meggyőző módot találtak rá, hogy megkongassák a vészharangot az MI-chatbotok egyre terjedő felhasználása miatt a tudományos publikációk területén. Teljes egészében a ChatGPT segítségével készítették el Chatting and Cheating: Ensuring Academic Integrity in the Era of ChatGPT (kb. Csevegés és csalás: a tudományos integritás biztosítása a ChatGPT korszakában) című tanulmányukat, amit aztán be is nyújtottak szakértői értékelésekre, hogy megvizsgálják, mennyire észrevétlenül csúszhat át az ilyesmi az ellenőrző folyamatokon.

Mint kiderült, teljesen simán: sem az olvasóknak, sem a közzétételt engedélyező szakértőknek nem tűnt fel, hogy az MI-chatbotok ellentmondásos alkalmazására figyelmeztető cikket éppen egy ilyen rendszer írta meg. A kutatók a saját nevük alatt publikálták az anyagot, és mint a Guardian tudósításából kiderül, az nem akadt fenn sem a plágiumgyanús elemek kiszűrésére való szoftvereken, sem magukon az emberi lektorokon, akik közül négyet is sikerül kijászaniuk – a dolgozatot csak akkor jelölték meg, amikor a szerzők már személyesen értesítették a dologról az érintett szerkesztőket.

Szóljon, akinek van valami ötlete

A kísérlet egy újabb látványos jelzés az akadémiai rendszernek, amelyik amúgy is nehezen birkózik meg a ChatGPT és társai jelentette kihívásokkal. Az már januárra világos lett, hogy az új megoldások legnagyobb felhasználói az egyetemisták lettek, és a megfelelő szabályozás hiányában könnyen elmosódik a határvonal a segédeszköz és csalás között. A nagy tudományos kiadók közül is többen helyezkedtek arra az álláspontra, hogy az ilyen anyagok a gépi tanuló modellek működéséből következően átlépik a plágium határvonalát, elősegítve a téves vagy hamis eredmények beágyazódását.

Bár léteznek árulkodó jelek annak eldöntésére, hogy egy adott dolgozatot ember vagy mesterséges intelligencia hozott létre, a mesterséges intelligencia nyomait egyetlen tudós vagy ellenőrző szoftver sem képes teljesen megbízhatóan jelezni. Vagyis hiába hoznak akár büntetéssel fenyegető szabályokat, ha a felderítés ennyire trükkös és széleskörű problémát jelent, aminek nem igazán kedvez a "publikálj vagy pusztulj" kutatási kultúra sem. A Guardian által idézett egyetemi dolgozó szerint ma már rendszeresen bukkannak ilyen esetekre, de arról fogalmuk sincs, hogy hány esetre nem bukkantak rá.