A generatív mesterséges intelligenciára (GenAI) épülő nagyvállalati alkalmazások elterjedése mára már potenciális kérdésből egyértelmű ténnyé vált. Az újabb és újabb üzleti előnyt üldöző cégvezetők számára azonban intő jel lehet a Gartner nemrégiben publikált elemzése, amely szerint minél többféle GenAI-alkalmazás épül be a szervezetbe, annál nagyobb a veszélye egy-egy ehhez köthető biztonsági incidensnek.
Az amerikai kutatócég baljós előrejelzése szerint két év múlva a vállalati GenAI-alkalmazások negyedénél tapasztalnak majd "évente legalább öt kisebb biztonsági incidenst". Ez az arány annak fényében különösen érdekes, hogy a Gartner szerint ugyanez ma még csak az alkalmazások 9 százalékára igaz.
Óvatosan a könnyítéssel
A kockázat növekedését a szakértők részint "az új támadási vektorok [megjelenésével] és a még nem kiforrott biztonsági gyakorlatokkal" magyarázzák, de szerepet játszhatnak benne olyan technológiák is, mint az ügynöki MI-alkalmazások integrálásánál gyakran előkerülő, az Anthropichoz köthető, de a riválisok által is elfogadott keretrendszer, a Model Context Protocol (MCP).
A Gartner vezető elemzője arra hívta fel a figyelmet, hogy "az MCP-t elsősorban az interoperabilitás, a könnyű használat és a rugalmasság érdekében fejlesztették ki, így az ügynöki MI folyamatos felügyelete nélkül biztonsági hibák léphetnek fel". Aaron Lord szerint "emiatt a GenAI-alkalmazásokon belüli kisebb biztonsági incidensek aránya várhatóan gyorsabban fog növekedni". Egy 2029-re vonatkozó előrejelzés pedig azt vetíti előre, hogy a vállalati GenAI-alkalmazások 15 százalékánál fognak évente "legalább egy súlyos biztonsági incidenst tapasztalni". Itt is érdemes mellé tenni a 2026-os arányt, ami a Gartner becslése alapján 3 százalékot tesz ki.
A MCP-hez hasonló keretrendszerek elterjedése miatt a Gartner szigorú biztonsági felülvizsgálati folyamatok bevezetését javasolja, továbbá tanácsos az alacsony kockázatú felhasználási esetek priorizálása, a már ismert fenyegetési minták elkerülése, valamint olyan korlátok meghatározására, amelyek úgy biztosítják az ügynöki MI hatékonyságát, hogy az ne járjon a biztonsági kockázatok drámai emelkedésével.
a melléklet támogatója a Clico
CIO kutatás
Merre tart a vállalati IT és annak irányítója?
Hiánypótló nagykép a hazai nagyvállalati informatikáról és az IT-vezetőkről: skillek, felelősségek, feladatkörök a múltban, a jelenben és a jövőben.
Töltse ki Ön is, hogy tisztábban lássa, hogyan építse vállalata IT-ját és saját karrierjét!
Az eredményeket május 8-án ismertetjük a 17. CIO Hungary konferencián.
Projektek O-gyűrűje. Mit tanulhat egy projektvezető a Challenger tragédiájából?