Bárkinek, akár konkurens cégeknek is ingyenesen biztosítja a Yahoo! Japan az online fórumok japán nyelvű hozzászólásait cenzúrázó mesterséges intelligenciáját, írja a Nikkei. A vállalat azonban nem szoftvert ad ellenfelei kezébe, hanem szolgáltatásként biztosítja a szűrést. (A japán Yahoo!-nak ma már semmi köze egykori amerikai testévérhez, azzal ellentétben sikeres, a szigetország meghatározó internetes vállalata.)

A mesterséges intelligenciára épülő szolgáltatás értelmezi a fórumok hozzászólásait, és automatizálja a kommentelési szabályok betartatását: képers arra, hogy önállóan figyelmeztesse a hozzászólókat vagy akár törölje is a szabályokat megsértő bejegyzéseket. Magát a szolgáltatást a Yahoo! Japan tavaly szeptemberben mutatta be, és azóta több vállalat is átvette. Elsősorban olyan hírszolgáltatók használják, melyek a közösségi tartalmakra is építenek. A szolgáltatás sokkal gyorsabb, mint az emberi moderátorok, lényegében másodpercen belül kiszűri a nem megfelelő tartalmakat.

Ingyen?! Csúcstechnológiát?!

Mint a Nikkei írja, azokban az ágazatokban, melyeket a piaci verseny hajt előre, meglehetősen ritka az olyan lépés, mint amit a japán internetes vállalat csinált, azaz hogy akár a konkurensei is ingyen használhatják a csúcstechnológiáját (a természetes nyelvi feldolgozás továbbra is az MI-kutatás egyik legösszetettebb területe, ahol minden apró eredményért nagyon megküzdenek a kutatók). És van is érdeklődés a technológia iránt: több mint húsz vállalat kezdett tárgyalásokat a Yahoo!-val a technológia használatáról.

A cenzor algoritmus kizárólag japán nyelven működik. Elemzi a szavakat és kifejezéseket a kommentekben, és tízes skálán értékeli azokat, hogy mennyire konstruktívak, valamint értékeli, hogy az adott téma (pl. egy újságcikk) szempontjából mennyire relevánsak. Az algoritmust a Yahoo állítólag óriási adatmennyiséggel tanította, és saját hírszolgáltatásában is használja 2018 óta. A vállalat ígérete szerint az MI-je olyanokat is el tud dönteni egy kommentről, hogy az objektív vagy elfogult. Maga az ingyenes szolgáltatás azonban egyelőre csak a szolgáltatási feltételeket sértő bejegyzések felderítését segíti.

Működési hatékonyságát a vállalat azzal illusztrálta, hogy a Yahoo News naponta megjelenő mintegy 7000 hírhez több mint 300 ezer bejegyzés érkezik, és ebből kb. 20 ezret töröl az algoritmus. Az emberi felügyelet itt sem hagyható el, de az emberi cenzorok csak az MI szerint nem egyértelműen elbírálható bejegyzésekkel foglalkoznak.

A tartalomgyártó vállalatok valószínűleg kapva kapnak a Yahoo! ajánlatán. Jelenleg ugyanis a legtöbb tartalom-előállító cég embereket alkalmaz arra, hogy a jogsértő (gyűlöletkeltés, összeesküvés-elméletek stb.) vagy a felhasználási feltételeknek nem megfelelő tartalmakat eltávolítsák.

A Yahoo!-nak mindebből ott a biznisz, hogy az elemzésekkel kapcsolatos információkat fel tudja használni az MI-je továbbfejlesztésére.

Sok még a kérdőjel az MI-cenzor körül

Ahogy Európában és Amerikában, úgy Japánban is sok a kérdőjel az MI-algoritmusokkal támogatott szűréssel kapcsolatban. Sokaknak ugyanis az a véleménye, hogy ha a technológiára bízzuk és automatizáljuk a tartalomszűrést, az aláássa a véleménynyilvánítás szabadságát.

Ez a Yahoo! szolgáltatása kapcsán is felvetődött, de a vállalat szerint az esetleges káros mellékhatásokat nagyban csökkenti, hogy az algoritmus működését kellően transzparenssé teszik a felhasználók számára is.