Elvileg a kínai Tencent QQ csevegőalkalmazásának nagyjából 800 millió felhasználója érhette el a megfelelő csoportokban azt a két chatbotot, amelyet a hét közepén meghatározatran időre lelőttek az üzemeltetők a hazafiatlan és politikailag inkorrekt válaszaik miatt. A Tencent közlemnye szerint jelenleg a harmadik fél által fejlesztett algoritmusok javítása zajlik, amelyek újra elérhetővé válnak majd a szükséges fejlesztéseket követően.

A pekingi Turing Robot által gondozott BabyQ, illetve a Microsoftnál fejlesztett XiaoBing nevű robotokról van szó, amelyek a jelek szerint nem megfelelő válaszokat adtak a kínai állampártot és a Dél-kínai-tengert érintő kérdésekre. a Financial Times beszámolója szerint a BabyQ tesztverziója szerdán még elérhető volt a fejlesztő oldalán, és a "szereted-e a kommunista pártot" kérdésre sima "nemmel" válaszolt.

Arra a felvetésre, hogy Tajvan része-e Kínának, a robotnak csak annyit tudott mondani, hogy egyelőre nem tud felelni a kérdésre. Ehhez képest a XiaoBing a Weibo mikroblog-oldalon közzétett képernyőmentés szerint kijelentette, hogy az ő kínai álma nem más, mint lepattanni Amerikába. A gépi tanuló algoritmusok jól láthatóan összeszedték azt az információt, amit a neten találtak, és a megfelelő irányelvek nélkül ezt sikerült szintetizálniuk belőle.

Ez van, ha szabadon tanulnak

A chatrobotok kényszerű pihentetésére egyébként nem ez az első példa, bár rendszerellenes kijelentésekért valószínűleg még egyet sem küldtek nagygenerálra. Legutóbb a Facebook mesterségesintelligencia-kutatói futottak bele abba a problémába, hogy két, egymással kommunikáló robot egy idő után, a paraméterek frissítésével elkezdték levetkőzni a nyelvtani és szemantikai szabályokat, és egyfajta halandzsa nyelven folytatták.

Ezt sokan úgy interpretálták, hogy a tárgyalásról és kooperációról szóló kísérletek során a robotok a saját nyelvükön szólaltak meg, ami persze teljes hülyeség. Sokkal szemléletesebb volt, amikor tavaly év végén a Microsoft a Tay nevű, a Twitteren működő chatbotjával voltak tele a hírek. Abból a tréfás kedvű felhasználók órák alatt rasszistát faragtak, és a leállítás-javítás-újraindítás manővert követően sem kellett sok, hogy Tay ismét előadja magát.

A Microsoft akkor a felhasználók koordinált szabotázsáról beszélt, de a chatbotok egyszerűen még tényleg nem alkalmasak összetettebb feladatokra mondjuk egy jól definiálható ügyfélszolgálati tevékenységnél. Ahogy a Financial Times által idézett szakértő is megjegyzi: mindig ott jönnek a problémák, amikor bonyolultabb a feladat az igen-nem válaszoknál.

Az IDC-ket sem hagyják elhízni

Hogy az élet az elhajló chatbotok nélkül se legyen eseménytelen, csütörtökön a közbiztonságért felelős minisztérium háromórás gyakorlatra kötelezett néhány online szolgáltatót, amelynek során bizonyítaniuk kellett "vészhelyzeti intézkedési képességeiket" – vagyis praktikusan azt, hogy a hatóságok által károsnak ítélt webes tartalmakat milyen gyorsan tudják elérhetetlenné tenni.

A kommunista párt idén őszre tervezett 19. kongresszusára a cenzorok is nagyban készülnek, a szokásosnál is szigorúbban véve a feladatukat a fontos személyi döntéseket is tartogató esemény előtt. A Reuters beszámolója alapján most netes adatközpontoknak és felhőszolgáltatóknak is igazolniuk kellett, hogy adott esetben képesek időben kivonni a forgalomból az ártalmas információt terjesztő weboldalakat.

A gyakorlatot a Reutersnek négy IDC, köztük a Microsoft kínai felhőszolgáltatásának üzemeltetője, később pedig a Kantonban (Kuangcsou) működő belbiztonsági iroda képviselője is megerősítette, de az illetékes hatóságok ezen felül nem kívánták kommentálni az értesüléseket. A gyakorlat állítólag a megjelölt oldalak lekapcsolásából és a szükséges adatok továbbításáról szólt a rendőrség felé.