A mesterséges intelligencia egyik úttörőjének tartott Yoshua Bengio elindította LawZero nevű nonprofit szervezetét, amelynek munkája az MI-rendszerek biztonságos, nyílt és az emberi értékekkel összhangban való működésére törekedne – számolt be róla az eWeek. A tudós, aki a modern mesterséges intelligencia felfutását megalapozó, neurális hálózatokkal és mélytanulással kapcsolatos korai kutatásai miatt széles körű elismertségnek örvend, egy blogbejegyzésben jelentette be a LawZero létrehozását, amit válasznak nevezett a legfejlettebb MI-modellekben igazolhatóan megjelenő, veszélyes viselkedésekre és képességekre.

A LawZero kutatásaiban a biztonságot helyezné a kereskedelmi kényszerek elé, tekintettel a nagy teljesítményű modellek olyan aggasztó szokásaira, mint amilyen a megtévesztés, a csalás, a hazugság, a hekkelés vagy az önfenntartás. Az általa felhozott példák között vannak azok az esetek, amikor egy MI titokban beágyazta saját kódját egy rendszerbe, hogy elkerülje a lecserélést, vagy amikor egy másik program hasonló esetben megpróbált megzsarolni egy mérnököt. Bengio szerint ezek korai figyelmeztető jelek arra nézve, hogy az MI váratlan és potenciálisan veszélyes stratégiákat alkalmazhat, ha nem ellenőrzik megfelelően.

A tudós januárban a davosi Világgazdasági Fórumon is figyelmeztetett rá, hogy az "agentic AI-tól" (az önállóan működő MI-alkalmazásoktól) sokan várnak előrelépést az MI- technológiák széles körű bevezetésében, de szerinte éppen a katasztrofális forgatókönyvek megvalósulásához járulhat hozzá. Az egymással versengő vállalatok és országok ugyanis ész nélkül építik majd az ilyen eszközöket, anélkül, hogy előzőleg meggyőződnének biztonságos működésükről. Bár elismerte, hogy a kockázatok tudományos feltárása mellett jelentős technológiai befektetést igényelne a felügyeletet ellátó "non-agentic" rendszerek fejlesztése is, erre mindenképpen sort kell rá keríteni, mielőtt olyan dolgokat kell építenénk, amelyek elpusztíthatnak bennünket.

A bizonyítékokkal jöhetnek a támogatások is

A LawZero kutatási terve éppen egy ilyen nem-ügynöki, megbízható mesterséges intelligencia fejlesztésére irányul, amit a bejegyzésben Bengio Scientist AI-nak nevez, és ami védőkorlátként működne a veszélyes MI-ügynökök ellen. Ahelyett, hogy az emberek elismerésére vadászó chatbotokként vagy asszisztensekként viselkedne, a Scientist AI inkább objektív megfigyelőként lépne fel az események megértésére, előrejelzésére és magyarázatára fog összpontosítva. Ennek megfelelően igen-nem válaszok helyett valószínűségekkel dolgozna, "tiszta tudásgépként" működve saját célok és önmeghatározás nélkül.

Az eWeek riportja alapján a LawZero körülbelül 30 millió dolláros finanszírozással és több mint tucat kutatóval indul, és legelső feladata egy ilyen rendszer működőképességének bizonyítása lesz. Bengio a The Guardiannek nyilatkozva kifejtette, hogy a módszertan bemutatásával győznék meg az adományozókat, a kormányokat és természetesen az MI-fejlesztőket, hogy biztosítsák a szükséges erőforrásokat az új modell olyan nagyságrendű képzéséhez, ami a csúcstechnológiát képviselő MI-hez mérhető. A tudós a blogján közölt cikkben úgy fogalmazott, hogy munkáját nem a félelem, hanem a saját gyerekei és minden más gyerek iránt érzett szeretet motiválja, akiknek a jövőjével jelenleg orosz rulettet játszanak az MI-iparágban.