Nemcsak a kívülállók, hanem az iparági bennfentesek között is akadnak, akik aggasztónak tartják, hogy a techvállalatok valójában mit építenek a mesterséges intelligenciával, és arra szólítják fel az "ellenállókat", hogy "tömeges adatmérgezéssel" ássák alá az MI-modellek működését – számolt be róla hétfőn a The Register. Az egy héttel ezelőtt indított, Poison Fountain (kb. mérgezett kút) nevű kezdeményezés arra kéri a weboldalak üzemeltetőit, hogy olyan linkeket adjanak hozzá a lapokhoz, amelyek az MI-robotokat szándékosan pontatlan betanítási adatokkal látják el, tömegesen alkalmazva pedig fejre állíthatják a sokmilliárd dolláros rendszereket.

Ahogy a Poison Fountain céljainak összefoglalásában kifejtik, egyetértenek gépi tanulás és az MI kutatásában elért eredményeiért 2024-ben fizikai Nobel-díjjal kitüntetett Geoffrey Hintonnal, aki egyre határozottabb figyelmeztetéseket fogalmaz meg a mesterséges intelligencia fenyegetéseiről az emberi faj egészére nézve. A szabályozást nem tekintik megoldásnak ezekre a félelmekre, mert a technológia mára általánosan elérhetővé vált, így nem látnak más utat, mint közvetett módon kárt okozni az MI-rendszerekben, "háborús erőfeszítésként" hivatkozva a preparált adatok gyorsítótárazására és újraküldésére, illetve a webes robotokhoz való továbbítására.

Maga az adatmérgezés különböző formákban, az MI modellépítési folyamatának különböző szakaszaiban értelmezhető: következhet a hibás kódból, a tényszerű tévedésekből vagy a szándékosan manipulált betanítási adatkészletekből is. Az Anthropic tavaly ősszel megjelent tanulmánya alapján az ilyen támadások sokkal hatékonyabbak lehetnek, mint azt korábban gondolták: néhány ilyen dokumentum is hozzájárulhat a modellek minőségének romlásához, néhány száz rosszindulatú anyag online elhelyezésével pedig hátsó kapukat lehet bennük kialakítani, függetlenül azok méretétől vagy az összes betanítási adat mennyiségétől.

Vitatkozni most már felesleges?

A The Register cikkéből kiderül, hogy a Poison Fountain projektet is ez a kutatás ihlette, a lapot a projektről tájékoztató bennfentes(ek) pedig állítólag az MI-robbanásban részt vevő amerikai nagyvállalatoknál dolgoz(nak). Szerintük fel kell hívni az emberek figyelmét a mesterséges intelligencia Achilles-sarkára, és "aktív ellenállásra" kell ösztönözni őket, hogy "saját információs fegyvereket" építsenek vele szemben. Ezt egyelőre két URL-lel támogatják, amelyek egy HTTP-n keresztül elérhető szabványos weboldalon és egy nehezebben lelőhető .onion linken keresztül olyan adatokra mutatnak, amelyek célja az MI-modellek képzésének akadályozása.

Az ott található "mérgezett adatok" helytelen kódot, finom logikai hibákat és más pontatlanságokat tartalmaz, károsítva a rajta keresztül tanított nagy nyelvi modelleket. A Poison Fountain mögött álló szakmabeliek szerint az MI problémája ma már úgy eszkalálódik, hogy arról a nyilvánosságnak általában nincs is tudomása, ők azonban aggódnak, mert helyzetükből adódóan "látják, hogy mit építenek az ügyfeleik". Hinton vagy az aktivista szervezetek évek óta küzdenek ugyan a szóban forgó folyamatok ellen, de a vita általában a szabályozói beavatkozásról szól, amelynek mértéke továbbra is minimális, köszönhetően az MI-fejlesztő cégek lobbierejének.

A mesterséges intelligenciát célzó adatmérgezés egyébként nem újdonság, de mások inkább a származtatott csalásokból származó bevételszerzésre összpontosítanak, nem az emberiség megmentésére. Az MI-rendszerek teljesítménye ettől függetlenül sem egyenletes, sőt azzal párhuzamosan romlik, ahogy a modellek maguk árasztják el rossz minőségű tartalommal és szintetikus adatokkal az internetet. A modellek ebből fakadó összeomlásánál azonban kézzel foghatóbb kockázat rájuk nézve a befektetői MI-buborék kipukkadása, amihez akár a fentihez hasonló akciók is hozzájárulhatnak – olvasható a The Register értékelésében.