A sértő tartalmak közösségi hálózatról való eltávolítását hiába végzik több ezren, emberi erő nem elég a feladathoz. Az F8 fejlesztői konferencián a közönség kis betekintést kapott arról, hogyan él a mesterséges intelligencia lehetőségeivel a Facebook. 

Nem egységes a probléma, és így a kezelése sem

Közönségéből általános derültséget váltott ki Mark Zuckerberg beszámolója, amikor arról beszélt, hogy mennyivel egyszerűbb egy mellbimbót érzékelni képes mesterségesintelligencia-rendszert építeni, mint egy, a gyűlöletbeszédet nyelvileg felismerni tudó MI-t összerakni. Ez jól ábrázolja, milyen nehéz feladata van a közösségi hálózat üzemeltetőjének. A káros tartalmak ugyanis számos formában – meztelen képek, rasszista megjegyzések, átverések stb. – vannak jelen, és ezekre nincsen egy minden problémát egyformán megcélzó megoldás.

Azt, hogy nem veszik félvállról a problémát, bizonyítják a Zuckerberg által elmondottak. Eszerint az év végéig 20 ezer fővel bővíti moderátorai számát a Facebook, hogy emberi erővel is bírja a tartalomszűrési feladatokat. Emellett a vállalat komoly befektetéseket eszközöl a mesterséges intelligenciára alapuló eszközökbe, amikkel proaktívan léphet fel a nem kívánt tartalmú bejegyzésekkel szemben, és a lehető leghamarabb eltávolíthatja rendszeréből azokat.

A szerdai eseményen végül betekintést nyerhettek a részt vevők, hogyan is használja tartalommoderációs célokra az MI-t a Facebook. Hét területen segítik a vállalat erőfeszítéseit az automatizált rendszerek: a meztelenséget tartalmazó képek, az erőszak grafikus ábrázolása, a terrorista tartalmak, a gyűlöletbeszéd, a spam, a hamis felhasználói fiókok és az öngyilkossági kísérletek megelőzése kapcsán vetik be a mesterséges intelligencia kínálta lehetőségeket.

Nem érti az iróniát az MI. Még...

Mint fent említettük, nincsen egy minden problémát egységesen kezelő megoldás, az esettípusok többségével külön-külön kell foglalkozni. A meztelenség és a grafikus erőszak ábrázolásának megállapítása viszonylag egyszerű feladat. A tiltott tartalmakat számítógépes látás segítségével azonosítják be. Ehhez tartalommegjelölő szoftvert használnak, mely képes az általa látottak részleteinek elemzésével megállapítani, hogy mekkora valószínűséggel esik az adott kép tiltás hatálya alá. Ennek következtében a tartalmat egyes esetekben azonnal eltávolítják, enyhébb esetekben pedig figyelmeztető képet tesznek elé.

A gyűlöletbeszéd meghatározása már sokkal nehezebb dió az MI-nek. Egyszerűen azért, mert a beszéd mögött levő tartalom nem feltétlenül egyezik meg pusztán a szavak, mondatok egyfajta lehetséges értelmezésével. Az elhangzottak, leírtak lehetnek szarkasztikusak vagy önmagukkal hasonlíthatók, de akár gyűlöletbeszéd-ellenes felhívásról is lehet szó. Nem fekete-fehér tehát annak pusztán szavak alapján való eldöntése, hogy az adott tartalom megfelel-e a Facebook szabályzatának.

És akkor még nem is említettük a kisebb nyelveken – mint például a magyar – való automatikus szűrés nehézkességét. Míg az angol vagy a spanyol esetében rengeteg példa áll a betanítandó algoritmusok rendelkezésére, a pár milliónyi ember által beszélt nyelvek MI-vel való szűrése még rátesz egy lapáttal a feladat bonyolultságára.

Nem kispályázik a Facebook

Sok teendőnk van még, ismerte be Guy Rosen, a vállalat alelnöke. Rosen elárulta: a Facebook azt a grandiózus célt tűzte ki maga elé, hogy a nem kívánt tartalmakat teljes egészében ellehetetlenítse hálózatán, még azelőtt, hogy bárki találkozhatna velük. Arról azonban nem beszélt, hogy mikorra fogják elérni mindezt.