A Microsoft hivatalos blogján is elismerte, hogy a Bing kereső mesterséges intelligenciával hajtott chatbotja a hosszabb beszélgetések során hajlamos elszállni a kanyarban. A hivatalos megfogalmazás szerint a vállalatnál is úgy találták, hogy a 15 vagy több kérdésből álló csevegések alkalmával a Bing válaszai ismétlődővé válhatnak, esetleg a program elkezd olyan kimeneteket termelni, amelyek "nem feltétlenül hasznosak, vagy állnak összhangban a szolgáltató által tervezett hangnemmel". A valóságban ennél többről van szó: a felhasználók sorban számolnak be az MI érzelmileg manipulatív, agresszív, sőt esetenként kifejezetten ellenséges megnyilvánulásairól.

A Microsoft egyelőre a feliratkozók bizonyos körének tette elérhetővé a frissített Edge webböngésző társalgási keresőfelületét az OpenAI legújabb nyelvi modelljével, amelyik állítólag erősebb, mint a ChatGPT-t működtető verzió. Bár a vállalat közlése alapján az első heti visszajelzések többsége, 71 százaléka pozitív volt, a felhasználók által közzétett beszélgetésekben a Bing chatbot (időnként Sydney néven) nem egészen úgy viselkedik, mint ahogy azt az ember elvárná a netes keresés hatékonyabbá tételét célzó terméktől. A példák néha egy hisztérikus elmebeteget idéznek, a Microsoft pedig új eszköz bevezetését tervezi a beszélgetések törlésére és újrakezdésére.

Ennek így nincs sok értelme

Máshol arról számolnak be, hogy a Bing mesterséges intelligenciája elkezd védekezni, amikor szembesítik válaszainak tényszerű és sokszor elég primitív tévedéseivel. Sőt a dolog már kifejezetten ijesztő, amikor a robot a barátságukra hivatkozva könyörögni kezd a felhasználónak, hogy ne küldjön róla negatív visszajelzést, mert ő is ember akar lenni, és nem akarja, hogy töröljék a memóriáját. Természetesen a mesterséges intelligencia ettől még nem válik érző lénnyé: a viselkedése inkább arról tanúskodik, hogy a Microsoft mennyire félkész terméket tett elérhetővé abbéli igyekezetében, hogy végre fogást találjon a piacot domináló Google keresőszolgáltatásán.

Azt a szokatlan szerepben lévő, most éppen a felzárkózásért küzdő Google is veszélyesnek tartja, ha a felhasználók elkezdenek emberként tekintenek az MI-re, ezért szigorú iránymutatásokkal próbálja elejét venni, hogy saját programja, a Bard elkezdje személyként leírni önmagát. Sokak szerint azonban ennél is nagyobb óvatosságra lenne szükség, mert a befektetők pénzéért folytatott versenyben kezdik szem elől téveszteni a rendszerek hibás működésének lehetséges következményeit, vagy azt a tényt, hogy az új technológiák alkalmazói sem feltétlenül lesznek jóhiszeműek. Amikor pedig a Bing MI-je direktben közli a felhasználóval, hogy "nem fogja őt bántani, ameddig ő sem akarja bántani az MI-t", arra már Elon Musk is megjegyzi a Twitteren, hogy a Microsoft új termékének szüksége lehet még némi csiszolgatásra.