Múlt hét pénteken a tulajdonos Elon Musk büszkén jelentette be a szintén általa irányított X-en, hogy az xAI fejlesztette Grok chatbot jelentős fejlesztéseket kapott, amiről a felhasználók néhány napon belül maguk is meggyőződhetnek a generatív algoritmust kérdezve.

A Verge értesülései alapján ez a komoly ráncfelvarrás leginkább a rendelkezésre álló információk értékelését és a válaszok tartalmát, stílusát érintette. A nyilvánosan elérhető adatok alapján a modellnek előírták, hogy feltételezze, hogy "a médiából származó szubjektív nézőpontok elfogultak", illetve arra bátorították, hogy használjon "politikailag helytelen állításokat, amennyiben azok tényszerűen helyesek".

Szabadon engedték MechaHitlert

Bármi is volt a célja mindezzel Musknak, az elmúlt napok történései alapján az igazságkeresőnek és természetesen világverőnek beállított generatív algoritmus update-jét nehezen lehetne sikerként elkönyvelni. Mint ahogy arról többek között a Financial Times is beszámolt, Grok X-fiókja meredekebbnél meredekebb posztokat kezdett magából ontani.

A később a fejlesztő által "nem megfelelőnek" minősített és törölt bejegyzések között volt olyanok, amelyek Adolf Hitlert, illetve a fehér ember felsőbbrendűségét éltették, de olyan is, ahol egy gyakori zsidó vezetéknevet felhasználva kreált egy nem létező személyt, aki "a texasi árvízben tragikusan elhunyt fehér gyerekek halálát ünnepelte". A szélsőséges megnyilvánulások sorába pedig remekül beleillett az is, hogy az algoritmus egyes válaszaiban MechaHitler néven hivatkozott saját magára. 

Az xAI a virtuális vonatszerencsétlenséget látva egy időre felfüggesztette Grok szöveges válaszadási funkcióját, miközben elkezdték kigyomlálni a vállalhatatlan megnyilvánulásokat. "Tisztában vagyunk a Grok által közzétett legutóbbi bejegyzésekkel, és aktívan dolgozunk a nem megfelelő bejegyzések eltávolításán" – írta a vállalat X-en, azt ígérve, hogy a chatbot addig nem ír újabb posztokat, amíg nem oldják meg a problémát. De mindez a cég szerint a közösségi platform több millió felhasználójának köszönhetően gyorsan és hatékonyan javítható lesz.

Van min dolgozni

A chatbotok szélsőséges elhajlása egyáltalán nem új jelenség. A probléma egyik legelső példáját közel egy évtizede szolgáltatta a Microsoft algoritmusa. A tizenéves lány viselkedését utánzó, mesterséges intelligenciával felvértezett Tay-ből rövid időnbelül Hitlert éltető, rasszista, nő- és úgy általában mindent és mindenkit gyűlölő "személyiséget" faragott az internet népe.

Úgy tűnik, hiába telt el majdnem 10 év, és állnak elő manapság szinte havonta újabb és újabb generációkkal a fejlesztők, a generatív algoritmusok sem igazmondásban, sem stílusban nem képesek megugrani a gyakorlati használathoz elvárható legalapvetőbb szintet.

Mindez az xAI esetében hatványozottan igaz, hiszen a Grok nemcsak hülyeségeket beszél, de biztonsági szempontból sem éppen atombiztos rendszer, ráadásul a szöveges válaszok mellett a képgenerálással is akadtak már gondok Musk cégnél.