A Bumble társkereső alkalmazás megnyitotta a forrását annak a 2019 óta működő, szeméremsértő tartalomra vadászó MI-eszköznek, amelynek elsődleges célja, hogy megvédje a felhasználókat bizonyos kéretlen fotókkal szemben. A beszámolók szerint a mesterséges intelligenciára épülő rendszer nem csak explicit módon a nemi szerveket ábrázoló képeket, hanem a félmeztelen szelfiktől egészen a lőfegyverekről készült fényképekig sok más dolgot is azonosítani tud. A működése felhasználói oldalról sem túl bonyolult: ha valaki gyanús képet kap, az elmosódva jelenik meg képernyőjén, a címzett pedig eldöntheti, hogy mégis megtekinti azt, esetleg letilthatja vagy jelenti a feladót.

Az AI News beszámolója ezzel kapcsolatban feldiézi, hogy az online zaklatás ellen nagyon nehéz hatékonyan fellépni, de a mesterséges intelligencia eddig így is eredményes eszköznek bizonyult a felhasználók, különösen pedig a kiszolgáltatottak védelmében. A Bumble MI-eszközének megnyitása így sok online felhasználó támogatásában nyújthat segíthet, amire nagy szükség is lenne: miután az elmúlt időszakban a lezárások vagy az online oktatás megnövelték az emberek képernyő előtt töltött átlagos idjét, már egy 2020-as kutatás is arra a megdöbbentő eredményre jutott, hogy a 12-18 év közötti lányok több mint háromnegyede, 75,8 százaléka kaphatott már kéretlenül meztelen képeket.

Nem csak a felhasználókra ártalmas

A cikk arra is kitér, hogy az emberi munkaerőre támaszkodó moderálás nem kerülhető meg teljesen, mert a humán moderátorok az MI-hez képest jobban értik a kontextust, jobb eséllyel tudnak különbséget tenni például a háborús bűnöket leleplező tartalom és az erőszakot hirdető terrorista propaganda között. Ezzel szemben komoly mentális károkat okoz, ha valaki kénytelen nap mint nap ilyen anyagokat vizsgálgatni: a moderátoroknak gyakran van szükségük terápiára, sőt már az is kiderült, hogy kifejezetten magas a köreikben az öngyilkosságok aránya. A felvételek elmosása így az ő védelmüket is segíti, miközben továbbra is lehetővé teszi az emberi képességek kihasználását.

A Bumble szerint a szóban forgó MI-eszközzel sikerült kompromisszumot teremteni a teljesítmény és a széles felhasználói bázis kiszolgálása között. Annak legújabb iterációjában bevezettek egy EfficientNetv2-alapú bináris osztályozót, egy olyan konvolúciós neurális hálózatot, amely gyorsabban tanítható be, és összességében hatékonyabban paraméterezhető. A Bumble közlése alapján a megoldás offline és online is 98 százalék feletti teljesítményre képes az upsampling és a feldolgozó jellegű beállításokban. A GitHubon elérhető eszköz az Apache License alatt használható, így lényegében szabadon felhasználható a problémás képek elmosására vagy további finomhangolásra.