A közösségi hálózatokon aktív, gépi algoritmusok jelentőségéről sok szó esik az utóbbi időben, elsősorban a közvélemény manipulációját célzó felhasználásukkal kapcsolatban. Bár ezek nagyon fontos és megfelelően látványos ügyek, a jelenség egyéb hatásairól is érdemes beszélni – ezek közül talán a legfontosabb, hogy a hálózatokat elözönlő robotok jelentős mértékben torzítják azokat az adatokat, amelyeket a céges vagy akár kormányzati felhasználók az emberek viselkedésével, véleményével vagy szükségleteivel kapcsolatban gyűjtenek és elemeznek.

Mindenhol ott vannak...

A közösségi térben működő botok (tágabb értelemben AI-implementációk) szerepe ma már megkerülhetetlen. A University of Southern California és az Indiana University közös kutatása alapján például 48 millió Twitter-fiókot kezelnek nem emberi felhasználók. Figyelembe véve, hogy a hálózatnak az idei harmadik negyedévben 330 millió, a kutatás idején, a második negyedévben pedig még kevesebb, 319 millió havi szinten aktív felhasználója volt, ez nagyon magas aránynak tekinthető.

A robotok rásdásul a számarányuknál nagyobb részben felelősek a Twitter-üzenetek termeléséért: a The Atlantic saját vizsgálata alapján a Trump-Clinton viták alatt a későbbi elnök mellett kampányoló forgalom harmada, a vesztes jelöltének pedig 22, illetve 25 százaléka származott a twitteres algoritmusoktól. (Hogy ne csak politikai jelentőségű példákat említsünk: már 2015-ben kiderült, hogy a celebritások követőinek akár fele-harmada is robot felhasználó, sőt a 10 milliónál több követővel rendelkező celebek maguk is a robotokra jellemző módon használják a Twittert. Értsd: robotok kezelik a profiljukat.)

A VentureBeat egyik szakértője mindezzel kapcsolatban két lényeges dologra hívja fel a figyelmet. Az egyik a már említett politikai kontextus, ahol a robotok a tömeg viselkedésének törvényszerűségeit kihasználva befolyásolják vagy fedik el a véleményeket. A másik, hogy felhígított és torz statisztikákból nehéz valós képet formálni a tényleges, emberi felhasználók reakcióiról, legyen szó közösségi analitikáról, adatbányászatról vagy hangulatfelmérésről.

...és mindenkire hatással lesznek

A Networked Insight kutatói szerint a brandek által elemzett közösségimédia-üzenetek legalább 10 százalékát gépek állították elő. Ez is igen magas arány, és nem érdemes egy vállrándítással elintézni: a szennyezett adatok és a hibás következtetések nem tekinthetők a piaci cégek saját kockázatának, hiszen ezekre támaszkodva alkalmazzák a "bökdösés" (nudge) technikákat, vagyis az emberek viselkedését eltervezetten, de tiltások vagy anyagi ösztönzők nélkül befolyásoló módszereket. Érthetőbben: a robotokáltal is befolyásokt irányba terelgetnek mindannyiunkat.

A beszámoló szerint a kockázatoknak van egy második rétege is. Már az sem oké, a felhasználók véleményére hivatkozva olyan igényeket és szükségleteket akarnak kielégíteni, amelyek valójában nem az emberek igényei és szükségletei. Ám ha egy személy vagy csoport úgy érzi, hogy saját preferenciái ellenére sorolták be egyik-másik kategóriába, akkor jó eséllyel változtatni fog saját alapértelmezett viselkedésén, hogy megpróbálja átverni az analitikát. Ez pedig érthető módon oda vezet, hogy az elemzések rövid távon hibás, hosszabb távon pedig teljesen torz eredményeket adnak majd.

A szakemberek egyre többször hívják fel rá a figyelmet, hogy a közösségimédia-szolgáltatók többé nem bújhatnak ki az ilyen irányú felelősség alól. Szerencsére nem is teszik, és egyre komolyabb erőfeszítéseket tesznek a robotok kigyomlálására. Az algoritmizált felhasználók és üzemeltetőik viszont szintén adaptálódnak és fejlődnek, így az MI-ket is egyre nehezebb lesz üzembiztosan kiszűrni. Némi erőfeszítés már szabályozói oldaról is tapasztalható, bár az ilyen intézkedéseknek nem sok látható haszna van. A németek például arra akarják kényszeríteni a botok gazdáit, hogy kötelezően jelezzék, ha nem emberi felhasználó, hanem egy algoritmus viszi a felhasználói fiókot – kérdés, mi lesz akkor, ha mégsem teszik.

A megoldásnak valószínűleg fontos és megkerülhetetlen eleme lesz (vagy lehet) a magánfelhasználók, a vállalkozások, a civil szervezetek felvilágostása és saját ébersége, illetve a "tömegek bölcsességére" alapozott statisztikai módszerek felülvizsgálata.