A davosi Világgazdasági Fórumon vezető mesterségesintelligencia-kutatók vitatták meg a fejlődés irányát, ellenőrzésének módját vagy a mesterséges általános intelligencia (AGI) megjelenésének lehetőségét. Köztük a kanadai Yoshua Bengio, akit a mesterséges intelligencia egyik keresztapjának neveznek a modern MI felfutását megalapozó, neurális hálózatokkal és mélytanulással kapcsolatos korai kutatásai miatt, komoly figyelmeztetést fogalmazott meg az "agentic AI" (az önállóan működő MI-alkalmazások) kapcsán, amelyektől mindenki előrelépést vár az egyelőre inkább látványos, mint széles körűen hasznos MI- technológiák bevezetésében.

Ezek a jelenlegi mesterségesintelligencia-modellekre épülő, de önműködő MI-ügynökök a megadott problémák vagy elvárt kimenetek mentén már saját maguknak is képesek lesznek utasításokat adni. Az első ilyen célorientált megoldásokra példa az OpenAI néhány nappal ezelőtt bemutatott MI-ügynöke, ami képes böngészni az interneten, és olyan feladatokat hajthat végre, mint az éttermi asztalfoglalás vagy az online bevásárlókosarak összepakolása. A Gemini 2.0-val a Google is beharangozott egy hasonló eszközt, az üzleti oldal pedig a befektetések kézzelfogható megtérülésére számít az agentic AI gyors bevonásától a munkafolyamatokba.

Bengio azonban éppen az MI-ügynökökben látja a mesterséges általános intelligenciával vagy az emberi képességeket túlszárnyaló szuperintelligenciával kapcsolatos, katasztrofális forgatókönyvek megvalósulását. Szerinte az AGI ilyen rendszerek kiépítése nélkül is lehetséges, miközben azoknak nem sok közük van a mesterséges intelligencia mindenki által fontosnak tartott, tudományos, orvosi és más vonatkozásaihoz. A tudós szerint a probléma lényege, hogy az egymással versengő vállalatok és országok is ész nélkül építik majd az ilyen eszközöket, anélkül, hogy előzőleg meggyőződnének az új megoldások biztonságos működéséről.

Most kellene kicsit észnél lenni

Ezzel összefüggésben olyan szabályozást sürgetett, amelyik megakadályozná, hogy az MI-fejlesztő cégek a rendszerek biztonságának bizonyítása nélkül építhessenek ügynöki modelleket, emellett a nem ügynöki rendszerekre bízná azok ellenőrzését és vezérlését. A kockázatok felmérése és tudományos feltárása mellett ez is jelentős technológiai befektetést igényel, de Bengio szerint mindenképpen sort kell rá keríteni, mielőtt túl késő lenne, és olyan dolgokat kell építenénk, amelyek elpusztíthatnak minket. Az ügynöki MI-t a legveszélyesebb útnak nevezte, amire eddig sem volt szükség a mélyreható tudományos alkalmazásokhoz.

A Business Inside beszámolója szerint a davosi beszélgetésben ugyancsak részt vevő Demis Hassabis, a Google DeepMind vezérigazgatója egyetértett a kockázatok mérséklését célzó intézkedések szükségességében a kiberbiztonsági védelemtől a szimulációs kísérletekig az MI-termékek kiadása előtt. Ehhez azonban hozzátette, hogy a dolog csak akkor működne, ha mindenki elfogadná a szabályokat. A tudományos vonatkozások mellett ráadásul lát egy "sajnálatos gazdasági gradienst" is, amelynek értelmében az agentic AI lesz jól eladható: ha valaki MI-alapú éttermi ajánlásokat akar, akkor miért ne akarná rögtön le is foglaltatni vele az asztalt.