Az OpenAI-tól az elmúlt időszakban közel felére olvadt a mesterséges intelligencia biztonságán dolgozó csapat létszáma – számolt be róla a Fortune a vállalat korábbi vezető kutatójára hivatkozva. Daniel Kokotajlo szerint nincs szó összehangolt lépésekről, a szakemberek egyszerűen sorban feladják, miután a mesterséges általános intelligencia (AGI) biztonságát és megfelelő felkészítését célzó munkájuk egyre inkább marginalizálódik az OpenAI-nál.

Kokotajlo, aki maga még 2023 áprilisában távozott az OpenAI-tól, a lapnak arról beszélt, hogy kezdetben körülbelül 30 ember dolgozott az AGI fejlesztését érintő biztonsági kérdéseken, de közülük már csak 16-an dolgoznak a cégnél. Ezt a Fortune nem tudta megerősíteni, mivel az OpenAI a kérdésre csak a megszokott patronokat sütötte el, mint hogy náluk futnak leghatékonyabb és legbiztonságosabb MI-rendszerek, és hisznek a kockázatkezelés tudományos megközelítésében.

A vállalat alapítóit és vetető tudósait is érintő elvándorlási hullám mindenesetre úgy is látványos, ha az érintettek közül nem mindenki hozza nyilvánosságra az oda vezető okokat. Aki pedig így tesz, az általában elég egyértelműen fogalmaz. Az időközben felszámolt "superalignment" csoport vezetője például arról beszélt májusi távozását követően, hogy az elmúlt években háttérbe szorultak a biztonságot célzó folyamatok és a biztonsági kultúra a "csillogó termékekkel szemben".

Ha elfogy a pénz, akkor úgyis mindegy

Egy másik csapattag szintén arról panaszkodott, hogy az OpenAI már teljesen a biztonság elé helyezte a profitot, ő pedig megelégelte, hogy "a mesterségesintelligencia-ipar Titanic hajóján" dolgozik. Összességében persze nem sokat tudunk arról, hogy a szakemberek miért ábrándulnak ki sorban a vállalatból, de azért rendszeresen felbukkannak azok az aggodalmak, amelyek szerint az OpenAI éppen Pandóra szelencéjét próbálja felnyitni az MI-technológia területén.

A dolognak egy másik, ritkábban tárgyalt aspektusa, hogy a kritikusok szerint a meghatározó vezetők és tudósok kivonulása intő jel lehet az AGI fejlesztésével kapcsolatos várakozásokat tekintve is. Az OpenAI folyamatosan arról beszél a befektetőknek, hogy az áttörés már itt van a következő kanyarban. Felmerül azonban a kérdés, hogy ha ez igaz, akkor miért távoznak egymás után a vállalat prominens alkalmazottai, jellemzően a versenytársakhoz vagy valamilyen saját projekthez.

Ennek alapján az sem tűnik valószerűtlennek, hogy az ott dolgozó tudósok egyre kevésbé bíznak az OpenAI képességében és ígéreteiben az AGI megvalósításárt illetően. Van, aki éppen ebből következtet a sokat emlegetett MI-buborék várható kipukkadására: az elképesztő fejlesztési és üzemeltetési költségeket finanszírozó befektetők egyre kevésbé érik be ígéretekkel, de a generatív mesterséges intelligenciának a gyakorlatban nem sikerül igazolnia a befektetéseket.