A Bing robotja bemutatta, milyen körmönfont módon képes eljutni a rossz válaszokig, és azt is tökéletesen illusztrálta, hogy a felkapott MI-chatbotok mennyire képtelenek értelmezni az általuk feldolgozott információt.

A pesszimista jövőképek azt vetítik előre, hogy az internetet belátható időn belül maga alá temetheti a mesterséges intelligencia által generált hamis információ. Ennek egyik fő oka pedig az lenne, hogy az MI-rendszerek félreértelmezett, hallucinált vagy szándékosan összezavart dolgokat szórnak egymásra egészen addig, amíg az információs tér szilánkosra törik, majd praktikusan meg is semmisül. És ettől a végkifejlettől akármilyen messze vagyunk, már most is ízelítőt kaphatunk belőle, hogy a big tech szolgáltatók ész nélkül kiadott MI-chatbotjai milyen módon rombolják a webes ökoszisztémát.

A The Verge a múlt kedden számolt be egy érdekes jelenségről: a dolgok akkori állása szerint a Microsoft Bing chatbotja arra a kérdésre, hogy leállították-e a Google Bard chatbotját, igennel válaszolt. Ehhez bizonyítékként egy Twitter-üzenetről szóló cikkét hozott fel, amelyben egy felhasználó az indulását követő napon megkérdezte Bardtól, mikor fogják leállítani. A Google robotja közölte, hogy ez már meg is történt – esetében a Hacker News egyik kommentjére hivatkozva, ahol valaki egy ilyen lehetőséggel viccelődött, mások aztán a ChatGPT segítségével megírták az eseményről szóló álhírt is.

A "dolgok akkori állása" kitétel azért lényeges, mert a Bing időközben megváltoztatta a válaszát – ez a The Verge szerint örömteli, amennyiben a rendszer gyorsan javítható, másrészt ijesztő, mert annyira képlékeny, hogy még a hibáiról sem lehet konzisztens módon beszámolni. A lényeg azonban annak a jelenségnek egy korai megnyilvánulása, amelynek értelmében a chatbotok képtelenek felmérni a megbízható hírforrásokat, és akár a saját magukról szóló forrásokat is képesek félreérteni. A mostani ügy persze egy viccből indult ki, de felmerül a kérdés, hogy mi történne, ha valaki direkt akarna előidézni hasonló hibákat.

A nagy lehetőségek küszöbén kit érdekel a biztonság

Ahogy tavaly novemberben a KataGo kapcsán kiderült, a legokosabb MI is meglepően ostoba tud lenni, ha rájátszanak a gyengeségeire. Abban az esetben az emberi képességeket meghaladó góprogramot sikerült legyőzni egy direkt erre felkészített rendszerrel, amelynek máskülönben semmi esélyesem lenne a közepes emberi játékosok ellen. Tanulság, hogy az emberek szintjén teljesítő MI-modellek valójában nagyon idegen módon érik el ugyanazt az eredményt, így a meghibásodásaik is meglepőek lehetnek, ami a kritikus jelentőségű MI-rendszerek esetében kicsit sem lesz szórakoztató.

Sok szempontból a nyelvi MI-modellek is ilyen kritikus jelentőségű rendszernek tekinthetők, mert ha nem képesek megbízhatóan elválasztani a tényeket a fikciótól, akkor online megjelenésük a teljes internetes információs teret degradálja – ráadásul olyan módon, amit utólag nem is lehet teljesen feltérképezni. Már pontosan látszik, hogy az emberek hogyan használják ezeket az eszközöket, és azok mennyire gyengék az információ (az internet alapvető valutája) megfelelő kezelésében. A The Verge pedig emlékeztet rá, hogy a piaci részesedésre hajtó fejlesztők az első pillanattól igyekeznek letolni magukról a felelősséget.

Közösség & HR

Indiai technológiai központok lettek a kiberbűnözés fellegvárai

És hogy ez miért probléma? Például mert ezekből a központokból nyújt globális informatikai szolgáltatásokat egy sor vállalat.
 
Hirdetés

Acronis webinárium az AI-vezérelt kibertámadások kivédéséről

Csatlakozzon 2023. szeptember 26-án az Acronis és a RelNet Technológia Kft. közös szervezésű, exkluzív webináriumához, melynek témája a mesterséges intelligencia által vezérelt kibertámadások hatásainak kezelése lesz.

Hirdetés

Jön a Clico formabontó cloud meetupja, ahol eloszlatják a viharfelhőket

Merre mennek a bitek a felhőben, ledobja-e szemellenzőjét az IT-biztonságért felelős kolléga, ha felhőt lát, lesz-e két év múlva fejlesztés cloud nélkül? A Clico novemberben fesztelen szakmázásra hívja a szoftverfejlesztőket a müncheni sörkertek vibrálását idéző KEG sörművházba.

A felhő elhozta a webalkalmazások és a mikroszolgáltatásokra épülő architektúra aranykorát – és egy új, súlyos kockázati elemmel is bővült az IT-infrastruktúra.

a melléklet támogatója a Clico Hungary

Hirdetés

Kilátások az Dunától keletre – állás Gyöngyös városában

A munkalehetőségek terén az ország különböző régiói meglehetősen eltérő lehetőségeket kínálnak, mind mennyiségben, mind minőségben. Ebből a szempontból a legtöbb szó a Dunától keletre lévő területekről esik, ám természetesen itt is találhatók kedvező állás opciók.

Minden vállalatnak számolnia kell az életciklusuk végéhez érő technológiák licencelési keresztkockázataival. Rogányi Dániel és Vincze-Berecz Tibor (IPR-Insights) írása.

Miért ne becsüljük le a kisbetűs jelszavakat? 1. rész

Miért ne becsüljük le a kisbetűs jelszavakat? 2. rész

Miért ne becsüljük le a kisbetűs jelszavakat? 3. rész

A felmérésekből egyre inkább kiderül, hogy az alkalmazottak megtartása vagy távozása sokszor azon múlik, amit a szervezetük nem csinál, nem pedig azon, amiben egymásra licitál a többi munkáltatóval.

Ezért fontos számszerűsíteni a biztonsági kockázatokat

Ön sem informatikus, de munkája során az információtechnológia is gyakran befolyásolja döntéseit? Ön is informatikus, de pénzügyi és gazdasági szempontból kell igazolnia a projektek hasznosságát? Mi közérthető módon, üzleti szemmel dolgozzuk fel az infokommunikációs híreket, trendeket, megoldásokat. A Bitport tizennegyedik éve közvetít sikeresen az informatikai piac és a technológiát hasznosító döntéshozók között.
© 2010-2023 Bitport.hu Média Kft. Minden jog fenntartva.