A Twitter közösségi platform hírajánlója, az Explore röviddel azután tűnt el, hogy Elon Musk 2022 októberében megvásárolta a céget, és mások mellett azokat az alkalmazottakat is elbocsátotta, akiknek a feladata volt kiemelni és kontextusba helyezni a Twitteren megjelenő eseményeket és sztorikat. A szolgáltatás néhány nappal ezelőtt indult újra a (most már) X főoldalán, de a tartalmat gondozó csapat ezzel nem alakult újjá, mivel emberi szerkesztők helyett már Musk MI-fejlesztő cége, az xAI Grok chatbotja írja a friss témákra mutató szövegeket.

Az első látványos hibára sem kellett sokat várni: a hírfolyam kiemelt helyen tájékoztatott róla, hogy Irán rakétákkal támadta meg Tel-Avivot. Az információ szerencsére hamisnak bizonyult, de ettől még tény, hogy a Grok simán generált egy ehhez hasonló álhírt rögtön az Explore frissítésének első napján. A beszámolók szerint ennek oka az lehetett, hogy sokan kezdték el copy-paste módszerrel osztani az iráni támadásról szóló álhíreket az X prémium fiókjainak "kék pipás" felhasználói közül egy robbanásokat mutató, ellenőrizetlen videó mellett.

Automatizálás az automatizálás kedvéért

Az eset kiválóan mutatja, hogy a mesterséges intelligencia képes ugyan azonosítani a felkapott témákat, de ettől még nem lesz intelligens: nem képes sem megbízható módon kontextusba helyezni az adatokat, vagyis emberi fogalmak szerint nem érti, hogy valójában mit csinál. A Twitternél egyébként korábban is fejlesztettek olyan funkciót, ami a releváns kulcsszavak alapján szűrte a megosztásokat, de nem volt véletlen, hogy a vállalat utóbb egy humán szerkesztőkből álló csapatra bízta a dolgot, együttműködve a vezető hírügynökségekkel is.

Musk ambiciózus tervekkel népszerűsíti a Grok chatbotot, de ettől a technológia még igen korai szakaszában jár, és egyáltalán nem megbízható. Az Izrael elleni támadás hírének címlapos megjelenése arra utal, hogy a szöveg generálása és terjesztése között nem volt érdemi ellenőrző rendszer, vagyis az X-nél a mesterséges intelligenciára bízták a teljes folyamatot. Az MI pedig, bár bizonyos esetekben tényleg kibővíti az adatok feldolgozásának lehetőségeit, még nem alkalmas rá, hogy emberi felülvizsgálat nélkül oldjon meg ilyen feladatokat.