Ha egyszer amerikai cégek építik a kínai megfigyelő államot, mi a garancia arra, hogy ugyanazokat a technológiákat nem akarják otthon is eladni? Nyilván semmi. Ráadásul ma már nem csak kamerák, arcfelismerő algoritmusok jelentenek veszélyt a magánéletre, hanem a természetes nyelveket feldolgozó rendszerek is, amelyek a nyelven keresztül gondolatainkban akarnak turkálni.

A The Dallas Morning News a közelmúltban közölt terjedelmes oknyomozó riportot arról, hogy főiskolák, egyetemek követték nyomon az aktivista hallgatókat egy olyan természetes nyelvi feldolgozó MI-rendszerrel, amit eredetileg a mentális egészség nyomon követésére fejlesztettek. A lap munkatársai a nyomozásuk során (melybe az Berkeley Egyetem újságíró-iskolája oknyomozó kurzusának hallgatói is beszálltak) kiderítették: összesen 36 állam felsőoktatási intézményében használták 2015 és 2019 között (sőt valószínűsíthetően utána is) a Social Sentinel nevű programot, amely a közösségi médiában közzétett bejegyzéseket elemezve próbálja meg azonosítani azokat a személyeket, akik veszélyt jelenthetnek önmagukra vagy környezetükre.

A rendszer (melyet 2020-ban egy felvásárlás után átkereszteltek Navigate360 Detectre) használói téma alapján kereshetnek a Facebookon, Instagramon, Redditen, Twitteren, YouTube-on közzétett bejegyzésekben. A keresés nem generális: nyolc témára és 25, a biztonsággal kapcsolatos altémára van korlátozva. De nem csak a nyilvános posztokat vizsgálja a rendszer. A későbbi továbbfejlesztések eredményeként e-mailek, a Google Docs, a Google Hangouts és a Facebook-üzenetek, tehát szigorúan magánjellegű dokumentumok, üzenetváltások megfigyelésére is alkalmassá vált. Emellett az ügyfél által károsnak ítélt domének webes kereséseit is képes észlelni. Az újságírók ezt részben az iskolai alkalmazottakkal készített interjúkból, részben kiszivárgott dokumentumokból derítették ki.

A fejlesztők nyilvánosan nem propagálták a rendszer ilyen irányú képességeit, de az informális megbeszélések során már úgy népszerűsítették az intézmények tisztviselői körében, hogy alkalmas az esetleges egyetemi tiltakozások megelőzésére, hatásainak csökkentésére.

Az oknyomozó riport több esetet is felidéz, amikor bevetették a Navigate360 Detectet. Egy észak-karolinai intézményben 2019-ben például arra használták, hogy nyomon kövessék egy hallgató közösségi médiában közzétett bejegyzéseit, aki kritizálta az egyetemi hatóságokat, mert szerinte rosszul kezelték a nemi erőszakkal kapcsolatos panaszát. Egy Georgia állambeli egyetemen pedig tüntető hallgatókat figyeltek meg, de olyan személy is bekerült a megfigyeltek körébe, aki nem volt az egyetem polgára. Egy másik egyetemen abortuszpárti és abortuszellenes tüntetések résztvevőit figyelték meg a szoftver segítségével.

Pontatlan, és egyébként sincs itt semmi látnivaló

Az ohiói székhelyű Navigate360, amely 2020-ban jutott a szoftverhez, amikor felvásárolta az eredeti fejlesztőt, a Social Sentinelt, annyit reagált a cikkre, hogy az tele van pontatlanságokkal, például nem szerepelnek olyan témák a lehetséges keresések listájában, melyek alkalmasak lennének a hallgatók tiltakozási akcióinak feltárására. Az intézmények pedig egyszerűen nem válaszoltak az újságírók megkereséseire.

Az egyetemek eljárása sok szempontból vitatható, a vélemények mégis megoszlanak a szoftver alkalmazásáról. Senki sem akarhatja, szól az egyik érv, hogy az intézmények ne vessenek be minden eszközt annak érdekében, hogy megelőzzék például az utóbbi években sok halálos áldozatot követelő iskolai lövöldözéseket. Az egyetemek felelőssége is, hogy az esetleges tiltakozások, tüntetések ne durvuljanak el, akár személyi sérüléseket is okozva, mondta a lapnak egy jogászprofesszor.

De az eszköz használata mégis vitatható. Transzparens és szigorú szabályok nélküli alkalmazása ugyanis durva beavatkozás a véleménynyilvánítás szabadságába és a személyiségi jogokba. Véleményének kifejtéséhez ugyanis mindenkinek joga van, még ha az békés tiltakozásokhoz is vezet. Dave Maass, az Electronic Frontier Foundation igazgatója sokkolónak nevezte, hogy a hallgatók szellemi épülését szolgáló egyetemek megfigyelőszoftverekkel egészítik ki az infrastruktúrájukat. Az iskolai szabadság eszméjének meggyalázása, fogalmazott az igazgató.

Az eset ismét rávilágít az etikus MI problémájára: ha ilyen eszközöket fejlesztenek, mi garantálja, hogy azokat kizárólag jó célokra használják, és nem élnek vissza a benne rejlő lehetőségekkel? De rávilágít arra is, hogy milyen nehéz összeegyeztetni a biztonság igényét a szabadságvággyal.

A teljes oknyomozó riport itt érhető el »