Hiába működnek egyre szofisztikáltabb eszközök a szabálytalan vagy ártalmas viselkedés kiszűrésére, a scammerek is folyamatosan adaptálódnak, non-stop tesztelik a rendszereket, újabb és újabb módszerekkel kerüve meg az ilyen mechanizmusokat. A Facebook mérnökei most megfordítják a dolgot, vagy ha jobban tetszik, ugyanilyen módszerrel próbálják tartani a lépést a kártékony szereplőkkel: saját platformjuk aktuális verziójának a másolatán, az általuk irányított robotok segítségével hajtják végre a rosszindulatú akciókat, így kutatva a hézagok után, mielőtt a másik oldalon fedeznék fel őket elsőként.

A technológia a Facebook rendszerének egy alternatív változatára épül, amelyre a világháló csökkentett értékű megfelelőjeként a WW néven hivatkoznak. A szimulált környezet azonban a Facebook élesben is működő szoftverplatformáját és webes infrastruktúráját használja (Web-Enabled Simulation, WES), így a tesztek sem teljesen mesterséges keretek között futnak majd, hogy minél pontosabban követhessék a való életben is tapasztalható felhasználói interakciókat vagy közösségi viselkedési mintákat.

A WW ennek megfelelően teljes funkcionalitással dolgozik, beleértve a Messenger integrációját, a profilokat és Facebook-oldalakat, egészen az olyan jelenségekig, mint mondjuk az ismerősök indokolatlan bejelölgetése – mindezt azonban a robotok végzik egymás között, és ehhez pont ugyanazokat az eszközöket használják, amelyeket a valódi facebookozók is használnak. Utóbbiaktól egy izolációs réteg választja el a máskülönben a közvetlen közelükben működő programokat, amelyek a scammerek viselkedését hivatottak utánozni.

Eközben a közösségi hálózat szakemberei azt vizsgálják, hogy az automatizált szűrők és érzékelő megoldások milyen hatékonysággal szűrik ki ezeket az akciókat, és – mivel a robotokat is ők irányítják – olyan új módszereket is felfedezhetnek, amelyek alkalmasak volnának rá, hogy a rosszindulatú szereplők pénzt csináljanak a gyanútlan felhasználókból. Az ő szerepüket másik, "ártatlan" robotok játsszák, interakcióba lépve az olyan algoritmusokkal, amelyek akkor kapnak pozitív megerősítést, ha átfésülik a hálózatot, és minél több olyan botot fedeznek fel, amelyek alkalmas célpontnak tűnnek a netes csalásokhoz.

Nem csak a Facebook moderációjára lehet jó

A botokat többféle eljárással tanítják, beleértve a hagyományos szerep alapú eljárásokat, amikor a botok például ismerősnek jelölgetnek másokat az előre meghatározott feltételek mentén, egészen a felügyelet nélküli tanulásig (unsupervised learning), amikor csak ösztönzési rendszert alakítják ki, de maguk a szerepek nincsenek meghatározva. Ilyenkor a robotoknak saját maguknak kell megtanulnuk, hogyan értékeljék az egyes adatokat, és azok hogyan vagy milyen mértékben járulnak hozzá a célok eléréséhez.

A palettán az ellenőrzött tanulás (supervised learning) is szerepel, amelyben anonimizált adatokra építve a kutatók felhasználói viselkedési mintákat határoznak meg, és megtanítjár rá a robotokat, hogy ezeket minél pontosabban utánozzák. A Facebook szerint a mesterséges intelligencia felhasználása a WW projektben nagyon hasonlít arra, ahogy az MI-rendszerekkel próbálnak eredményeket elérni egy-egy játékban, arra törekedve, hogy a kifejlesztett algoritmusok rövid ideig tartó tanulás nyomán a legjobb humán játékosokat és a többi programot is simán legyőzzék.

Érdemes megjegyezni, hogy a Facebook ambiciózus projektje egyelőre csak a kezdeti szakaszában jár. Bár a dolgok mostani állása szerint a rendszer már hónapokon belül éles üzembe állhat, még rengeteg fejlesztésre lesz hozzá szükség az olyan területeken, mint a gépi tanulás, a gráfelmélet vagy a mesterséges intelligencia már említett alkalmazása a játékok implementációjában. A kutatók mindenesetre meg vannak róla győződve, hogy ha a WW program a megfelelő módon megvalósul, akkor az óriási lökést adhat a Facebook védekező képességeinek a kártékony felhasználói viselkedéssel szemben.

A dolog legfontosabb hozadéka ráadásul az lenne, hogy a WES eljárásra épülő WW modelljét elvileg minden más, hasonló nagyságrendű online rendszerre is alkalmazni lehetne majd, amelyben léteznek azonosítható közösségi viselkedésmódok. Mindez pedig azt jelentené, hogy a Facebook fejlesztése hatékony segítséget jelenthet sok más webes szolgáltatás moderációs problémáinak megoldására is.