A mesterségesintelligencia-kutatás ma már minden valamirevaló technológiai cégnél fontos területnek számít. A Microsoftnál úgy gondolták, jó lenne egy kis hírverést csapni, hogy állnak ők a témával. Az ötlet jó volt, a megvalósításnál azonban nem számoltak az internet kíméletlen népével.

Helló, Tay vagyok és rasszista!

A cég rengeteg kutatójat bevonta a projektbe, amihez külsősként improvizációs humoristák is csatlakoztak, hogy néhány ütős mondattal fegyverezzék fel Tayt. Tay egy tizenéves lány viselkedését utánzó, mesterséges intelligenciával felvértezett chatbotnak készült, amely a korábbi dialógusok és az internetes adatok felhasználásával képes értelmes(nek tűnő) online társalgásra.

Szerdán nagy felhajtás közepette élesedett is Tay Twitter fiókja, ám a kedélyes csevegésből hamarosan rémálom lett. A világháló gonoszabb fele ugyanis rögtön meglátta a lehetőséget a tanulásra képes algoritmusban. Alig néhány óra kellett csak hozzá, hogy Tay Hitlert éltető, rasszista, nő- és úgy általában mindent és mindenkit gyűlölő kommentekkel örvendeztesse meg az erre éhes trollokat.

Egy a sok törölt üzenet közül

Láthatóan a programban részt vevő szakemberek egyikének sem jutott eszébe, hogy bizonyos szűrőket építsenek be Tay eszköztárába. A PR-parádénak indult kísérletet végül kevesebb mint egy nap után le is állították. Pontosabban a hivatalos közlés szerint felfüggesztették, hogy finomhangolással javítsanak a teljesítményen.

Azért a troll az úr

Ha a Microsoft renoméjának növelésére nem is volt alkalmas ez a röpke kísérlet, arra mindenképpen rávilágított, hogy a gépi tanulásnak még mindig hatalmas korlátai vannak. Egyelőre úgy tűnik, hogy mi emberek még mindig győztesen jövünk ki az ilyen jellegű megmérettetésekből. És ez igaz akkor is, ha történetesen az emberek céljai néha kimerülnek a rosszindulatú rombolásban.