Ahogy az várható volt, a vállalatoknak komoly fejfájást okoznak azok az új kockázatok, amelyeket saját dolgozóik idéznek elő a generatív mesterséges intelligencia használatával – derül ki az ExtraHop nemrég közzétett tanulmányában. A kiberbiztonsági cég The Generative AI Tipping Point című jelentése némi kognitív disszonanciát mutat az informatikai és IT-biztonsági vezetők körében: 73 százalékuk nyilatkozott úgy, hogy alkalmazottaik már gyakran használják a generatív MI-t a munkájuk során, többségük azonban azt is elismerte, hogy nincs teljesen képben a kockázatok kezelését illetően.

Az informatikai vezetők leginkább a pontatlan vagy értelmetlen válaszok lehetőségét tartották aggasztónak (40 százalék), ami megelőzte az ügyfelek és alkalmazottak személyes azonosítására alkalmas adatok nyilvánosságra kerülését (36 százalék) vagy a konkrét pénzügyi veszteségeket (25 százalék). Az ExtraHop kutatása arra is kitért, hogy az egyes szervezetek miként szabályozzák ezeknek az eszközöknek a használatát, ezzel kapcsolatban pedig az AI News összefoglalója külön is kiemeli, hogy mennyire hatástalan a generatív mesterséges intelligencia és a nagy nyelvi modellek használatának tiltása.

Felülről sem ártana némi támogatás

A válaszadók közel harmada, 32 százaléka számolt be rőla, hogy szervezetüknél megtiltották az ilyen szolgáltatások használatát, mégis csak 5 százalék volt azoknak az aránya, akik szerint az alkalmazottak tényleg nem használják náluk a szóban forgó eszközöket. A tanulmány rávilágított arra is, hogy nagy szükség lenne az iránymutatásra. Ebben a válaszadók 90 százaléka tartotta szükségesnek a kormány szerepvállalását, 6:3 arányban támogatva a kötelező szabályozás bevezetését, illetve az olyan normák meghatározását, amelyek betartását a vállalkozások önkéntesen vállalhatnák magukra.

A vezetők 82 százaléka egyébként bízik benne, hogy meglévő képességeivel a generatív mesterséges intelligencia kockázatait is kezelni tudja, és kisebb részük számolt be célzott beruházásokról a technológia ellenőrzésére. Az viszont nem tűnik megnyugtatónak, hogy csak 46 százalékuk alakított ki irányelveket a generatív MI használatára vonatkozóan, és 42 százalékuk indított felhasználói képzéseket az új eszközök biztonságos használatáról. Bár manapság nincs olyan sikeres technológia, amelynek ne lenne alapvető eleme a biztonság, az MI esetében még nem látszik erre megnyugtató megoldás.