Ismét kiderüt, valós károkat tud okozni, ha túlságosan ráhagyjuk magunkat a mesterséges intelligencia által gyorsan és rendezetten elénk tálalt információra. Ennek kapcsán pár napja az Egyesült Királyságban kongatták meg a vészharangokat, mivel kiderült, hogy egy bizonyos divatmárka termékeire keresve, a ChatGPT gond nélkül ajánl kamu, kifejezetten az óvatlanok pénzére és értékes személyes adataira utazó oldalakat.

A Guardian a csalások felderítésére fókuszáló Ask Silverre hivatkozva számolt be arról, hogy az OpenAI chatbotja a brit Russell & Bromley cipő- és táskakereskedő honlapjára hajazó, hamis oldalra irányítja a felhasználót, amennyiben az kifejezetten ilyen márkájú termékekről érdeklődik.

Ez a csalás azért is különösen veszélyes, mert a vállalatot év elején felvásárolta a Next, és ennek folyományaként ma már nincs is önálló, hivatalos Russell & Bromley webshop. A vásárlók egy része ugyanakkor erről mit sem tud, a generatív algoritmus ajánlása pedig csak segít az esetlegesen feltámadó gyanakvás elcsendesítésében.

Az Ask Silver szakértője a Guardiannek azt nyilatkozta, hogy elképzelhető, hogy a ChatGPT mögött dolgozó nagy nyelvi modell (LLM) lett megmérgezve, azaz a tanítására szolgáló adatbázisba kerülhettek be rosszindulatú tartalmak. Ezzel egy lehetséges magyarázatot adva arra, miért hajlik az algoritmus a kamu webshopok ajánlgatására.

Káros ügynöki tevékenység

A jelenség abból a szempontból semmiképpen nem nevezhető újdonságnak, hogy a nagy nyelvi modellek hallucinációra való hajlandósága régóta közismert jelenség. A nem megfelelő vagy éppen valósnak beállított, de teljesen légből kapott információkkal már korábban is sok probléma akadt.

Ami viszont a mostani esetet különösen veszélyessé teszi, az az MI-ügynökök elterjedése. Nem nehéz elképzelni, milyen potenciális károkat okozhatnak ezek az összetett feladatokat akár önállóan is elvégezni képes algoritmusok, ha "kollégáik" hamis weboldalakra terelik őket.

Az automatizált ügynöki ámokfutást a telepítésükben érdekelt technológiai és pénzügyi vállalatok is igyekeznek megfékezni, például különböző limitek, extra ellenőrző rétegek beépítésével. Az azonban annyira nem megnyugtató a felhasználók szempontjából, hogy az ágensek ténykedését megengedő áruházláncok leginkább azzal kezdik az integrálást, hogy az esetleges káresemények kapcsán minden jogi felelősséget eltolnak maguktól.