Az OpenAI állítólag feloszlatja "AGI Readiness" csapatát, amelynek feladata a vállalat képességének és általában a külvilág felkészültségének javítása az egyre nagyobb teljesítményű MI-modellek kezelésében. Miles Brundage, az AGI Readiness vezető tanácsadója szerdán jelentette be távozását a cégtől, és elsősorban az alternatív költségre (opportunity cost) hivatkozva arról írt, hogy kutatásai külsőleg nagyobb hatást fejtenek ki kisebb elfogultság mellett. A kifejezés a döntéshelyzetek során az olyan lehetőségek hasznára utal, amelyeket a döntéshozó nem választott, vagyis a kimaradt lehetőségek értékét állítja szembe a tényleges eredményekkel.

Brundage szerint nehéz volt hat év után feladni az "álommunkáját", mégis így döntött a felelősségtudat nyomására, amit az OpenAI által hajszolt technológia iránt érez. A mesterséges általános intelligencia (artificial general intelligence, AGI) az MI olyan fejlettségi szintjét jelöli, amikor az már a feladatok széles skáláján az emberivel egyenértékű vagy azt felülmúló teljesítményre lesz képes. Bár a dolognak még a pontos meghatározásában sincs megegyezés, az iparági vezetők és befektetőiknek egy része már közelinek tartja a hozzá vezető áttöréseket, míg mások úgy gondolják, hogy az aktuális megközelítésekkel sosem lesz lehetséges az AGI felépítése.

Nem elég csak a gázt nyomni

Az OpenAI volt kutatója most arra figyelmeztet, hogy senki sincs felkészülve arra, ami ezután következik: szerinte "az OpenAI és más vezető kutatólaboratóriumok sem állnak rá készen, mint ahogy maga a világ sem". Brundage az OpenAI vezetését külön is bírálta, amennyiben "az AGI túlterhelt kifejezés, és inkább bináris gondolkodásmódot sugall, mint amennyi értelme valójában lehet." Ahogy ő látja, nincsenek előtte-utána állapotok: egy ötfokozatú skála meghatározásában egyébként ő maga is részt vett, melynek a tetején az emberi munka elvégzésére képes MI állna, jelenleg pedig éppen a második szint, az emberi szintű érvelésre képes MI küszöbét próbáljuk átlépni.

Brundage a folyamatot tekintve úgy gondolja, hogy az AGI az egész emberiség javát szolgálhatja, de ehhez a fejlesztéséért és szabályozásáért felelős személyek megfontolt döntéseire is szükség lenne. Mostani megszólalásából nehéz mást kiolvasni, mint hogy az OpenAI nem pont így közelíti meg az AGI felügyeletét: más szervezeten belüli csoportokhoz csapja az AGI Readiness csapat munkatársait, nem sokkal azután, hogy szétrobbantotta alig egy éve működő, az MI-biztonságért felelős csapatát is. A cégtől nagy nevű szakemberek sora lépett le az utóbbi időben, legutóbb szeptember végén jelentették be a technológiai igazgató és több kutatási vezető távozását.