A mesterséges intelligenciával generált, rossz minőségű tartalom már a Wikipédia használhatóságát is veszélyezteti, ezért az online enciklopédia szerkesztőinek egy csoportja elindította a WikiProject AI Cleanup programot a forrás nélküli, rosszul megírt, MI-vel létrehozott tartalmak elleni fellépésre. A kezdeményezés célja saját meghatározásuk szerint nem a mesterséges intelligencia felelős felhasználásának akadályozása, hanem azoknak a hallucinatív vagy más módon haszontalan mesterségesintelligencia-tartalmaknak a semlegesítése, amelyek rombolják az évtizedek óta működő webes ismerettár nívóját.

A szerkesztők a 404 Mediának nyilatkozva elmondták, hogy az MI visszaélésszerű használata egyes esetekben egészen nyilvánvaló. Ilyenek a tipikus chatbot-válaszok, amikor a Wikipédia-bejegyzésekben is megjelennek az "ismereteim legutóbbi frissítése szerint" kezdetű bekezdések. Emellett felismerhetők olyan szövegminták és gyakran alkalmazott kifejezések, amelyek segítenek a silány MI-kimenetek vagy szándékos átverések kiszűrésében. Hasonló stílusokat egyébként a ChatGPT segítségével is sikerült replikálniuk, ami szintén hozzájárul a mesterséges tartalom kirívó eseteinek gyorsan észleléséhez.

Nehéz lesz feltartóztatni az áradatot

Mindez azonban csak a jéghegy csúcsa, amennyiben a rossz minőségű, mesterséges intelligenciával gyártott tartalmat sokszor nehéz kiszúrni – különösen, ha összetett szövegekben elrejtett, magabiztosan tálalt hibákról van szó. A 404 riportja példának hozza fel egy olyan oszmán erődítmény részletesen kidolgozott történetét, ami valójában sohasem létezett, de a szöveg elég koherens volt hozzá, hogy egy 13. századi oszmán építészetre specializálódott szerkesztőn kívül bárkinek feltűnjön a dolog. A mesterséges intelligenciával generált hoax még szintén nem létező művekre utaló, jól formázott idézetekkel is el volt látva.

A Futurism beszámolója arra is kitér az AI Cleanup projekt kapcsán, hogy a Wikipédia szerkesztői bizonyos esetekben már le is fokozták egyes források és híroldalak megbízhatóságát a mesterséges intelligenciával való visszaélések miatt: ilyen volt mások mellett a CNET is, amelyet tavaly hibás, MI-vel előállított cikkek publikálásán kaptak. A vállalkozás ettől függetlenül sziszifuszi munkának tűnik, mert a mesterséges tartalom tömeges előállítása ma már nagyon olcsón megvalósítható, maga a Wikipédia pedig egy önkéntesek által működtetett szolgáltatás, ami megnehezíti a pontatlan vagy hamis tartalom elleni küzdelmet.

a kép forrása: Lane Hartwell @Wikimedia Foundation