A Twitter közösségi platform hírajánlója, az Explore röviddel azután tűnt el, hogy Elon Musk 2022 októberében megvásárolta a céget, és mások mellett azokat az alkalmazottakat is elbocsátotta, akiknek a feladata volt kiemelni és kontextusba helyezni a Twitteren megjelenő eseményeket és sztorikat. A szolgáltatás néhány nappal ezelőtt indult újra a (most már) X főoldalán, de a tartalmat gondozó csapat ezzel nem alakult újjá, mivel emberi szerkesztők helyett már Musk MI-fejlesztő cége, az xAI Grok chatbotja írja a friss témákra mutató szövegeket.
Az első látványos hibára sem kellett sokat várni: a hírfolyam kiemelt helyen tájékoztatott róla, hogy Irán rakétákkal támadta meg Tel-Avivot. Az információ szerencsére hamisnak bizonyult, de ettől még tény, hogy a Grok simán generált egy ehhez hasonló álhírt rögtön az Explore frissítésének első napján. A beszámolók szerint ennek oka az lehetett, hogy sokan kezdték el copy-paste módszerrel osztani az iráni támadásról szóló álhíreket az X prémium fiókjainak "kék pipás" felhasználói közül egy robbanásokat mutató, ellenőrizetlen videó mellett.
Automatizálás az automatizálás kedvéért
Az eset kiválóan mutatja, hogy a mesterséges intelligencia képes ugyan azonosítani a felkapott témákat, de ettől még nem lesz intelligens: nem képes sem megbízható módon kontextusba helyezni az adatokat, vagyis emberi fogalmak szerint nem érti, hogy valójában mit csinál. A Twitternél egyébként korábban is fejlesztettek olyan funkciót, ami a releváns kulcsszavak alapján szűrte a megosztásokat, de nem volt véletlen, hogy a vállalat utóbb egy humán szerkesztőkből álló csapatra bízta a dolgot, együttműködve a vezető hírügynökségekkel is.
Musk ambiciózus tervekkel népszerűsíti a Grok chatbotot, de ettől a technológia még igen korai szakaszában jár, és egyáltalán nem megbízható. Az Izrael elleni támadás hírének címlapos megjelenése arra utal, hogy a szöveg generálása és terjesztése között nem volt érdemi ellenőrző rendszer, vagyis az X-nél a mesterséges intelligenciára bízták a teljes folyamatot. Az MI pedig, bár bizonyos esetekben tényleg kibővíti az adatok feldolgozásának lehetőségeit, még nem alkalmas rá, hogy emberi felülvizsgálat nélkül oldjon meg ilyen feladatokat.
Biztonságos M2M kommunikáció nagyvállalti környezetben a Balasystól
A megnövekedett támadások miatt az API-k biztonsága erősen szabályozott és folyamatosan auditált terület, amelynek védelme a gépi kommunikáció (M2M) biztonságossá tételén múlik.
CIO KUTATÁS
TECHNOLÓGIÁK ÉS/VAGY KOMPETENCIÁK?
Az Ön véleményére is számítunk a Corvinus Egyetem Adatelemzés és Informatika Intézetével közös kutatásunkban »
Kérjük, segítse munkánkat egy 10-15 perces kérdőív megválaszolásával!
Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak