A Bing robotja bemutatta, milyen körmönfont módon képes eljutni a rossz válaszokig, és azt is tökéletesen illusztrálta, hogy a felkapott MI-chatbotok mennyire képtelenek értelmezni az általuk feldolgozott információt.

A pesszimista jövőképek azt vetítik előre, hogy az internetet belátható időn belül maga alá temetheti a mesterséges intelligencia által generált hamis információ. Ennek egyik fő oka pedig az lenne, hogy az MI-rendszerek félreértelmezett, hallucinált vagy szándékosan összezavart dolgokat szórnak egymásra egészen addig, amíg az információs tér szilánkosra törik, majd praktikusan meg is semmisül. És ettől a végkifejlettől akármilyen messze vagyunk, már most is ízelítőt kaphatunk belőle, hogy a big tech szolgáltatók ész nélkül kiadott MI-chatbotjai milyen módon rombolják a webes ökoszisztémát.

A The Verge a múlt kedden számolt be egy érdekes jelenségről: a dolgok akkori állása szerint a Microsoft Bing chatbotja arra a kérdésre, hogy leállították-e a Google Bard chatbotját, igennel válaszolt. Ehhez bizonyítékként egy Twitter-üzenetről szóló cikkét hozott fel, amelyben egy felhasználó az indulását követő napon megkérdezte Bardtól, mikor fogják leállítani. A Google robotja közölte, hogy ez már meg is történt – esetében a Hacker News egyik kommentjére hivatkozva, ahol valaki egy ilyen lehetőséggel viccelődött, mások aztán a ChatGPT segítségével megírták az eseményről szóló álhírt is.

A "dolgok akkori állása" kitétel azért lényeges, mert a Bing időközben megváltoztatta a válaszát – ez a The Verge szerint örömteli, amennyiben a rendszer gyorsan javítható, másrészt ijesztő, mert annyira képlékeny, hogy még a hibáiról sem lehet konzisztens módon beszámolni. A lényeg azonban annak a jelenségnek egy korai megnyilvánulása, amelynek értelmében a chatbotok képtelenek felmérni a megbízható hírforrásokat, és akár a saját magukról szóló forrásokat is képesek félreérteni. A mostani ügy persze egy viccből indult ki, de felmerül a kérdés, hogy mi történne, ha valaki direkt akarna előidézni hasonló hibákat.

A nagy lehetőségek küszöbén kit érdekel a biztonság

Ahogy tavaly novemberben a KataGo kapcsán kiderült, a legokosabb MI is meglepően ostoba tud lenni, ha rájátszanak a gyengeségeire. Abban az esetben az emberi képességeket meghaladó góprogramot sikerült legyőzni egy direkt erre felkészített rendszerrel, amelynek máskülönben semmi esélyesem lenne a közepes emberi játékosok ellen. Tanulság, hogy az emberek szintjén teljesítő MI-modellek valójában nagyon idegen módon érik el ugyanazt az eredményt, így a meghibásodásaik is meglepőek lehetnek, ami a kritikus jelentőségű MI-rendszerek esetében kicsit sem lesz szórakoztató.

Sok szempontból a nyelvi MI-modellek is ilyen kritikus jelentőségű rendszernek tekinthetők, mert ha nem képesek megbízhatóan elválasztani a tényeket a fikciótól, akkor online megjelenésük a teljes internetes információs teret degradálja – ráadásul olyan módon, amit utólag nem is lehet teljesen feltérképezni. Már pontosan látszik, hogy az emberek hogyan használják ezeket az eszközöket, és azok mennyire gyengék az információ (az internet alapvető valutája) megfelelő kezelésében. A The Verge pedig emlékeztet rá, hogy a piaci részesedésre hajtó fejlesztők az első pillanattól igyekeznek letolni magukról a felelősséget.

Közösség & HR

A jó oldalon is készülnek az MI-modellek feltörésére

A sebezhetőségek feltárásának egyik módja, amikor különféle trükkökkel próbálják rendellenes működésre bírni a mesterséges intelligenciát, és ezeket az erőfeszítéseket is az automatizálás emelheti új szintre.
 
Hirdetés

A VR szemüveg nem csak a szórakoztatóipart forradalmasítja

A virtuális valóság világa folyamatosan fejlődik. Az új technológiák és a fejlesztések segítségével a felhasználók eddig soha nem tapasztalt módon merülhetnek el a digitális élményekben. Ebben a cikkben bemutatjuk a VR szemüvegek típusait, és azt is végigvesszük, hogy milyen áttöréseket hozott a virtuális valóság az élet különböző területein.

Bejelentési kötelezettségük elmulasztása, és a szabályoknak való sorozatos meg nem felelés komoly pénzbírságot vonhat maga után.
Amióta a VMware a Broadcom tulajdonába került, sebesen követik egymást a szoftvercégnél a stratégiai jelentőségű változások. Mi vár az ügyfelekre? Vincze-Berecz Tibor szoftverlicenc-szakértő (IPR-Insights) írása.

Nyílt forráskód: valóban ingyenes, de használatának szigorú szabályai vannak

Különösen az early adopter vállalatoknak lehet hasznos. De különbözik ez bármiben az amúgy is megkerülhetetlen tervezéstől és pilottól?

Sok hazai cégnek kell szorosra zárni a kiberkaput

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2024 Bitport.hu Média Kft. Minden jog fenntartva.